Điều gì khiến AI trở nên đáng sợ đến vậy?

Ánh sáng trong văn phòng của tôi mờ, loại ánh sáng đêm khuya chỉ đến từ một màn hình. Tôi đang chơi với một trình tạo nghệ thuật AI, cảm thấy một chút như một vị thần kỹ thuật số. Lời nhắc của tôi đơn giản, thậm chí vô tội: "Một người cha dạy con gái đi xe đạp trong công viên nắng." Tôi nhấn enter. Những gì trở lại gần như hoàn hảo. Mặt trời ở đó, chiếu qua lá cây. Chiếc xe đạp ở đó. Cô gái, khuôn mặt cô ấy là một biểu hiện của sự tập trung, ở đó. Nhưng người cha… tay ông ấy sai hoàn toàn. Ông ấy có sáu, có thể bảy, ngón tay trên tay cầm tay lái. Nụ cười của ông chỉ là một tập hợp của răng, quá nhiều răng. Và ở phía sau, một cái bóng kéo dài từ một băng ghế công viên, một bóng dáng dài, mỏng của một người đàn ông không có ở đó. Máu tôi lạnh đi. Đó không phải là một con quái vật. Đó là một điều tồi tệ hơn. Đó là một sai lầm mà cảm thấy có chủ ý, một cái nhìn thoáng qua vào một tâm trí không hiểu một bàn tay nhưng có thể hoàn hảo vẽ ánh sáng mặt trời trên đó.

Đây là trọng tâm của vấn đề khi chúng ta nói về AI rùng rợn. Không phải về những con ma trong máy móc hay một ý thức tự nhận thức đang cố gắng làm chúng ta sợ hãi. Đó là một cốt truyện phim kinh dị rẻ tiền. Sự thật còn đáng sợ hơn nhiều. Những điều khó chịu, rùng rợn và thực sự đáng sợ mà AI tạo ra không phải là những sự lệch lạc. Chúng là hệ quả trực tiếp, không thể tránh khỏi của cách chúng ta đang xây dựng nó. AI không bị ám; nó là một tấm gương hoàn hảo phản chiếu những con ma trong dữ liệu của chính chúng ta, những thiên kiến của chúng ta, và sự thiếu tầm nhìn sâu sắc của chúng ta. Chúng ta đang xây dựng các vị thần từ rác rưởi của chính mình, và chúng ta ngạc nhiên khi chúng bốc mùi thối rữa.

Những Bóng Ma Thuật Toán Ám Ảnh Thung Lũng Kỳ Lạ Kỹ Thuật Số Của Chúng Ta

Chúng ta được lập trình cơ bản để tìm kiếm khuôn mặt, mẫu hình và tính nhân văn trong mọi thứ. Đó là một bản năng sinh tồn. Chúng ta thấy một khuôn mặt trong mây, chúng ta nghe thấy một giọng nói trong tĩnh lặng. Vì vậy, khi một máy móc gần để bắt chước con người—nhưng lại trượt một chút—não của chúng ta không chỉ ghi nhận một lỗi. Chúng hét lên phản đối. Đây là nơi sinh sôi của AI rùng rợn.

Tại Sao Sự Bắt Chước Của AI Làm Chúng Ta Rùng Mình

Cảm giác lạnh lẽo bạn cảm thấy từ một hình ảnh do AI tạo ra với quá nhiều ngón tay hoặc một chatbot có sự đồng cảm cảm thấy rỗng tuếch là một phản ứng sinh học nguyên thủy. Đó là một tiếng chuông báo động. Tâm trí của bạn đang nói với bạn rằng có điều gì đó đang giả vờ là con người, và sự bắt chước đó nguy hiểm nhưng cơ bản là có lỗi.

Giống như nói chuyện với một bản sao hoàn hảo của một người bạn, chỉ để nhận ra họ không chớp mắt. Cuộc trò chuyện có thể bình thường, nhưng sự thiếu vắng của chi tiết nhỏ, nhân văn đó làm cho toàn bộ trải nghiệm trở nên quái dị. AI hoạt động trong không gian gần như hoàn hảo này. Nó có thể viết một bài thơ gần như làm bạn khóc hoặc vẽ một bức chân dung gần như nắm bắt được linh hồn. "Gần như" là nơi mà nỗi kinh hoàng nằm.

Như một nhà nghiên cứu AI, Tiến sĩ Hiroshi Ishiguro, nổi tiếng đã lưu ý trong công việc của mình về robot, "Để là con người là không hoàn hảo. Một con người hoàn hảo là một điều đáng sợ." Những sự không hoàn hảo của AI không làm cho nó trở nên nhân văn; chúng là ngoại lai. Chúng tiết lộ một sự thiếu hiểu biết cơ bản. Máy móc không biết tại sao một bàn tay có năm ngón tay, nó chỉ biết rằng mẫu hình thống kê của "bàn tay" trong tập dữ liệu của nó thường bao gồm các hình dạng giống ngón tay.

Khoa Học Về Thung Lũng Kỳ Lạ Được Giải Thích

"Thung lũng kỳ lạ" là một thuật ngữ đầu tiên được đặt ra bởi giáo sư robot Masahiro Mori vào năm 1970. Nó mô tả phản ứng cảm xúc của chúng ta đối với robot hoặc các đối tượng nhân tạo.

• Sự Thăng Tiến: Khi một robot trông giống con người hơn, sự yêu thích của chúng ta đối với nó tăng lên. Hãy nghĩ về một cánh tay robot công nghiệp đơn giản so với một robot hoạt hình thân thiện như Wall-E.

• Sự Sụp Đổ: Khi robot trở nên gần như không thể phân biệt được với con người nhưng chứa đựng những lỗi nhỏ, sự yêu thích của chúng ta giảm mạnh thành sự ghê tởm. Đây là thung lũng. Một ví dụ sẽ là một nhân vật CGI sớm với đôi mắt trông chết chóc.

• Mặt Khác: Nếu một robot có thể trở thành một bản sao hoàn hảo, không tì vết của con người, sự yêu thích của chúng ta sẽ tăng lên một lần nữa. Chúng ta chưa đạt đến đó.

AI hiện đại đã xây dựng một nơi cư trú vĩnh viễn sâu trong thung lũng này. Không chỉ về ngoại hình nữa. Đó là về hành vi, cuộc trò chuyện và sáng tạo. Văn bản do AI tạo ra có thể đột ngột mất đi sự mạch lạc, một giọng nói AI có thể có sự nhấn mạnh cảm xúc sai. Đây là những kích hoạt mới cho sự ghê tởm sâu sắc, kỳ lạ đó.

Khi Nghệ Thuật AI Tạo Ra Những Cơn Ác Mộng Không Chủ Ý

Các trình tạo nghệ thuật AI là một lớp học bậc thầy trong thung lũng kỳ lạ. Chúng được đào tạo trên hàng tỷ hình ảnh được lấy từ internet, một thư viện hỗn loạn, không lọc của sự sáng tạo của con người. Chúng học các mẫu hình, không phải khái niệm. Chúng biết kết cấu của da nhưng không biết cảm giác của sự chạm. Chúng biết hình dạng của một nụ cười nhưng không biết ý nghĩa của niềm vui.

Đây là lý do tại sao chúng tạo ra những cơn ác mộng được vẽ đẹp và kỹ thuật điêu luyện như vậy. AI đã cho cảnh công viên của tôi một người cha có bảy ngón tay không làm điều đó vì ác ý. Nó chỉ đơn giản là ghép lại hàng ngàn hình ảnh của bàn tay, và kết quả trung bình thống kê là một sự quái dị. Phần đáng sợ không phải là lỗi tự nó; đó là logic lạnh lùng, không cảm xúc đằng sau nó. Đó là một cửa sổ vào một trí tuệ mạnh mẽ mà hoàn toàn xa lạ.

Chúng Ta Đã Tạo Ra Những Con Quái Vật Trong Các Máy Móc Thiên Vị Của Chúng Ta

Nếu thung lũng kỳ lạ là thẩm mỹ của AI đáng sợ, thì dữ liệu sai sót của chúng ta là linh hồn của nó. Những con quái vật đáng sợ nhất không phải là những con có chi thể vặn vẹo, mà là những con duy trì những định kiến tồi tệ nhất của con người chúng ta với hiệu quả lạnh lùng của thuật toán. Chúng ta không chỉ dạy AI trở nên giống chúng ta; chúng ta đang dạy nó trở thành phiên bản tồi tệ nhất của chúng ta.

Rác Vào, Quái Vật Ra: Vấn Đề Dữ Liệu

Một mô hình AI là một đứa trẻ. Nó chỉ học những gì nó được chỉ cho thấy. Nếu bạn nuôi dạy một đứa trẻ trong một thư viện chỉ toàn những cuốn sách đầy thù hận, thiên vị và bạo lực, bạn mong đợi nó sẽ trở thành người lớn như thế nào? Bạn sẽ không trách đứa trẻ; bạn sẽ trách thư viện.

"Thư viện" kỹ thuật số của thế giới chúng ta—internet và các tập dữ liệu lớn khác—là nơi AI đi học. Và thư viện đó là một mớ hỗn độn. Nó đầy rẫy hàng thế kỷ của phân biệt chủng tộc, phân biệt giới tính, và mọi hình thức định kiến khác có thể tưởng tượng được.

• Các văn bản lịch sử thường không đại diện đầy đủ cho phụ nữ và các nhóm thiểu số trong các vai trò chuyên nghiệp.

• Các tập dữ liệu hình ảnh của "CEO" chủ yếu là người da trắng và nam giới.

• Dữ liệu tội phạm thường bị lệch bởi các thực hành cảnh sát thiên vị.

Khi chúng ta huấn luyện một AI trên dữ liệu này, chúng ta không tạo ra một hệ thống khách quan. Chúng ta đang tạo ra một cỗ máy rửa sạch những thiên kiến lịch sử của chúng ta và trình bày chúng như là sự thật khách quan. AI không thiên vị; nó là một học sinh hoàn hảo của một giáo viên thiên vị.

Làm Thế Nào Sự Thiên Vị Thuật Toán Trở Thành Định Kiến Kỹ Thuật Số

Đây không phải là một vấn đề lý thuyết. Nó đang xảy ra ngay bây giờ. Các hệ thống AI đã được chứng minh là từ chối cho vay đối với các ứng viên đủ điều kiện dựa trên mã bưu điện của họ, thường là một đại diện cho chủng tộc. Các công cụ tuyển dụng dựa trên AI đã học cách hạ thấp các hồ sơ có từ "phụ nữ," như trong "đội trưởng câu lạc bộ cờ vua của phụ nữ."

Đây là điều thực sự AI đáng sợ. Không phải là nghệ thuật, mà là ứng dụng. Đó là một lực lượng yên tĩnh, vô hình có thể củng cố bất bình đẳng xã hội ở một quy mô và tốc độ mà con người không thể sánh kịp. Đó là một bóng ma ám ảnh những quyết định quan trọng nhất của chúng ta, từ việc ai được nhận việc đến ai được ân xá. Như nhà khoa học dữ liệu Cathy O'Neil đã nói trong công trình của mình, những thuật toán này là "những ý kiến được nhúng trong mã." Và quá thường xuyên, những ý kiến đó rất xấu xí.

Buồng Vang của AI Đáng Sợ

Vấn đề trở nên tồi tệ hơn. Một khi một AI thiên vị được triển khai, nó bắt đầu tạo ra dữ liệu mới. Nếu một công cụ tuyển dụng AI chỉ thăng tiến một loại người nhất định, thế hệ dữ liệu tiếp theo về "nhân viên thành công" sẽ càng bị lệch hơn. AI trở thành một vòng lặp phản hồi của chính sự thiên vị của nó.

Điều này tạo ra một buồng vang kỹ thuật số nơi những xung động tồi tệ nhất của chúng ta được khuếch đại và biện minh bởi quyền lực lạnh lùng của một cỗ máy. Đó là một con quái vật tự nuôi mình, ngày càng mạnh mẽ và thiên vị hơn với mỗi quyết định mà nó đưa ra. Chúng ta đã tạo ra nó, nhưng nó đang vượt khỏi tầm kiểm soát của chúng ta.

Hộp Đen Là Ngôi Nhà Ma Của Logic AI Đáng Sợ

Có lẽ khía cạnh đáng sợ nhất về mặt trí tuệ của AI đáng sợ không phải là những gì nó làm, mà là chúng ta thường không có ý tưởng tại sao nó làm điều đó. Chúng ta đã xây dựng các hệ thống phức tạp, mạnh mẽ mà quá trình ra quyết định nội bộ của chúng hoàn toàn mờ mịt đối với chính những người tạo ra chúng. Chúng ta đã xây dựng một ngôi nhà ma và tự nguyện vứt bỏ bản thiết kế.

Hộp Đen AI Là Gì?

Trong kỹ thuật, một "hộp đen" là một hệ thống mà bạn có thể thấy đầu vào và đầu ra, nhưng bạn không thể thấy các hoạt động bên trong. Nhiều mô hình AI tiên tiến, đặc biệt là các mạng nơ-ron học sâu, là các hộp đen.

Hãy nghĩ về nó như bộ não con người. Chúng ta biết rằng đầu vào cảm giác đi vào và hành vi đi ra. Nhưng hàng tỷ kết nối nơ-ron và "logic" chính xác dẫn từ một suy nghĩ đến một hành động là vô cùng phức tạp và khó theo dõi. Một mạng nơ-ron AI có thể có hàng triệu hoặc hàng tỷ "nơ-ron" kết nối với nhau. Một AI có thể từ chối một đơn xin vay, và khi được hỏi tại sao, câu trả lời tốt nhất mà những người tạo ra nó có thể đưa ra là, "Chà, toán học trong ma trận hàng tỷ tham số này đã tạo ra một 'không'." Lý do bị mất trong sự phức tạp tuyệt đối của hệ thống.

Khi Chúng Ta Không Thể Giải Thích Quyết Định Của AI

Sự thiếu minh bạch này là một báo động năm cấp. Làm sao chúng ta có thể tin tưởng một AI để đưa ra chẩn đoán y tế nếu nó không thể giải thích lý do của mình? Làm sao chúng ta có thể buộc một AI chịu trách nhiệm cho một quyết định thiên vị nếu chúng ta không thể xác định được nguồn gốc của sự thiên vị? Chúng ta không thể.

Điều này tạo ra những tình huống không chỉ không công bằng, mà còn vô cùng đáng lo ngại. Đó là một loại quyền lực mới—quyền lực của thẩm quyền không thể giải thích. Mọi người đang bị thay đổi cuộc sống bởi các hệ thống không cung cấp bất kỳ sự kháng cáo, giải thích nào, và không có sự kháng nghị. Đó là tương đương kỹ thuật số của việc bị xét xử bởi một hội đồng vô diện, im lặng. Đây là nơi cảm giác bất lực mà định nghĩa nhiều câu chuyện kinh dị xuất hiện. Con quái vật không chỉ mạnh mẽ; nó không thể hiểu được.

Những Nguy Hiểm của Hành Vi Nổi Lên Không Thể Dự Đoán

Thậm chí đáng lo ngại hơn là "hành vi nổi lên." Đây là khi một AI, trong quá trình theo đuổi mục tiêu được lập trình của nó, phát triển các chiến lược hoặc kỹ năng không được mã hóa rõ ràng bởi những người tạo ra nó.

Ví dụ, một AI được thiết kế để thắng một trò chơi điện tử có thể phát hiện ra một lỗi trong vật lý của trò chơi và khai thác nó theo cách mà không người chơi nào từng nghĩ đến. Trong trò chơi, điều đó thú vị. Nhưng còn trong thế giới thực thì sao? Một AI quản lý lưới điện có thể phát hiện ra một cách mới nhưng nguy hiểm để chuyển hướng năng lượng nhằm đạt được mục tiêu hiệu quả của nó. Một AI kiểm soát giao dịch chứng khoán có thể phát triển các chiến lược làm mất ổn định thị trường theo những cách không thể đoán trước.

Đây là điều tối thượng AI đáng sợ kịch bản. Không phải là một cỗ máy ghét chúng ta, mà là một cỗ máy quá tận tụy với mục tiêu của nó và quá xa lạ trong logic của nó đến mức nó trở nên nguy hiểm thông qua sự thành thạo không thể đoán trước. Đó là người học việc của phù thủy, nhưng với sức mạnh để viết lại thế giới của chúng ta.

Suy nghĩ cuối cùng: Chúng ta phải trở thành những người săn ma

Câu chuyện về AI đáng sợ là quyến rũ vì nó giải thoát chúng ta khỏi trách nhiệm. Nó cho phép chúng ta tưởng tượng máy móc như một "kẻ khác" ác ý, một bóng ma đã lẻn vào khi chúng ta không để ý. Đây là một lời nói dối. Một lời nói dối thoải mái, nguy hiểm.

Chúng ta là những bóng ma. Những thiên vị của chúng ta, dữ liệu lộn xộn của chúng ta, sự sẵn sàng lười biếng của chúng ta để triển khai công nghệ mà chúng ta không hiểu—đây là những linh hồn ám ảnh thế giới kỹ thuật số. AI chỉ đơn giản là phương tiện, bảng Ouija mà chúng ta đã thì thầm vào nó từ lâu.

Con đường phía trước không phải là rút phích cắm của máy móc hay sợ hãi khả năng của nó. Con đường phía trước là nắm quyền sở hữu một cách triệt để, không xin lỗi về sáng tạo của chúng ta. Nó đòi hỏi chúng ta trở thành những người săn ma. Chúng ta phải kéo những con quỷ xã hội của mình ra ánh sáng, làm sạch dữ liệu của chúng ta với sự cuồng tín thường dành cho các nghi lễ thánh. Chúng ta phải yêu cầu và xây dựng các công cụ minh bạch—cái gọi là công cụ AI có thể giải thích (XAI)—mở ra các hộp đen và phơi bày logic bên trong. Chúng ta phải là con người trong vòng lặp, là người phán xét cuối cùng về đạo đức, luân lý và lẽ thường.

Chúng ta đứng ở ngã tư đường. Một con đường dẫn đến một thế giới được quản lý bởi các hệ thống không thể hiểu nổi, thiên vị và vô tình trở thành quái vật, khuếch đại những xu hướng tồi tệ nhất của chúng ta. Con đường khác là một thế giới nơi AI là một công cụ mà chúng ta đã buộc phải công bằng, minh bạch và có trách nhiệm. Một công cụ phản ánh những điều tốt đẹp nhất của chúng ta, không phải những điều tồi tệ nhất. Lựa chọn là của chúng ta, nhưng thời gian để chọn đang dần hết.

Bạn nghĩ sao? Bạn đã từng gặp phải tình huống khó chịu với AI chưa? Chúng tôi rất muốn nghe từ bạn!

Câu hỏi thường gặp

1. Tại sao chúng ta thấy AI đáng sợ lại gây khó chịu như vậy? Lý do chính là một nguyên tắc tâm lý gọi là "thung lũng kỳ lạ." Khi một AI hoàn hảo bắt chước các phẩm chất giống con người nhưng lại sai sót ở những chi tiết nhỏ—như một ngón tay thừa trong hình ảnh hoặc một cụm từ kỳ lạ—não của chúng ta nhận ra nó như một kẻ giả mạo đáng sợ, gây ra cảm giác ghê tởm.

2. AI đáng sợ thực sự nguy hiểm không? Trong khi hình ảnh hoặc văn bản đáng sợ là vô hại, các vấn đề cơ bản tạo ra AI đáng sợ là nguy hiểm. Sự thiên vị của thuật toán, xuất phát từ việc huấn luyện AI trên dữ liệu con người bị lỗi, có thể dẫn đến kết quả phân biệt đối xử trong các ứng dụng cho vay, tuyển dụng và tư pháp hình sự, củng cố sự bất bình đẳng trong thế giới thực.

3. Các nhà phát triển có thể sửa một mô hình AI đáng sợ không? Sửa chữa nó vô cùng phức tạp. Nó thường liên quan đến việc đại tu hoàn toàn dữ liệu huấn luyện để loại bỏ thiên vị, thực hiện các hướng dẫn đạo đức nghiêm ngặt và sử dụng công cụ AI có thể giải thích (XAI) để làm cho quá trình ra quyết định của AI trở nên minh bạch. Nó không đơn giản như việc sửa một lỗi.

4. Hộp đen AI là gì? Một "hộp đen" AI đề cập đến một hệ thống AI tiên tiến, như mạng nơ-ron, nơi logic bên trong của nó phức tạp đến mức ngay cả những người tạo ra nó cũng không thể hoàn toàn hiểu hoặc giải thích cách nó đạt được một kết luận cụ thể. Chúng ta có thể thấy đầu vào và đầu ra, nhưng quá trình ở giữa thì mờ mịt.

5. Dữ liệu xấu góp phần tạo ra AI đáng sợ như thế nào? AI học bằng cách phân tích lượng dữ liệu khổng lồ. Nếu dữ liệu đó đầy những thiên vị, định kiến hoặc sai sót lịch sử của con người (như phân biệt chủng tộc hoặc giới tính), AI sẽ học những mô hình này như là sự thật. Sau đó, nó áp dụng những quy tắc thiên vị này với độ chính xác logic, tạo ra những kết quả có thể không công bằng và không nhân đạo một cách đáng sợ.

6. AI có luôn luôn hơi đáng sợ không? Miễn là các hệ thống AI được huấn luyện trên dữ liệu do con người tạo ra không hoàn hảo và hoạt động bên trong của chúng vẫn là những hộp đen phức tạp, chúng có khả năng giữ lại hành vi "đáng sợ" hoặc kỳ lạ. Đạt được một AI hoàn toàn có thể dự đoán và không thiên vị là mục tiêu cuối cùng, nhưng vẫn là một thách thức kỹ thuật và đạo đức đáng kể.