Что делает ИИ таким невероятно жутким?

Свет в моем офисе был тусклым, таким, который бывает только от монитора поздно ночью. Я играл с генератором искусственного интеллекта, чувствуя себя немного как цифровой бог. Мой запрос был простым, даже невинным: "Отец учит дочь кататься на велосипеде в солнечном парке". Я нажал "ввод". То, что вернулось, было почти идеальным. Солнце было там, пробиваясь сквозь листья. Велосипед был там. Девочка, ее лицо было сосредоточено, была там. Но отец... его руки были неправильными. У него было шесть, может быть, семь пальцев на руке, держащей руль. Его улыбка была просто набором зубов, слишком много зубов. А на заднем плане тень тянулась от скамейки в парке, длинный, тонкий силуэт человека, которого там не было. Моя кровь застыла. Это не было монстром. Это было что-то хуже. Это была ошибка, которая казалась намеренной, взгляд в разум, который не понимал руку, но мог идеально изобразить солнечный свет на ней.

Это суть вопроса, когда мы говорим о жуткий ИИ. Дело не в призраках в машине или сознании, пытающемся нас напугать. Это дешевый сюжет для фильма ужасов. Правда гораздо более пугающая. Жуткие, пугающие и откровенно страшные вещи, которые производит ИИ, не являются отклонениями. Это прямое, неизбежное следствие того, как мы его строим. ИИ не одержим; это идеальное зеркало, отражающее призраков в наших собственных данных, наших предвзятостях и нашем глубоком отсутствии предвидения. Мы строим богов из нашего собственного мусора и удивляемся, когда они пахнут гнилью.

Алгоритмические призраки преследуют нашу цифровую зловещую долину

Мы фундаментально запрограммированы искать лица, шаблоны и человечность во всем. Это инстинкт выживания. Мы видим лицо в облаках, слышим голос в статике. Поэтому, когда машина закрытьк имитации человечности — но промахивается на миллиметр — наш мозг не просто фиксирует ошибку. Он кричит в протесте. Это питательная среда для жуткий ИИ.

Почему имитация ИИ вызывает у нас мурашки

Холод, который вы чувствуете от изображения, сгенерированного ИИ, с слишком большим количеством пальцев или чат-бота, чья эмпатия кажется пустой, — это первобытная, биологическая реакция. Это сигнал тревоги. Ваш разум говорит вам, что что-то притворяется человеком, и имитация опасно хороша, но в корне ошибочна.

Это как разговаривать с идеальной копией друга, только чтобы понять, что он не моргает. Разговор может быть нормальным, но отсутствие этой крошечной, человеческой детали делает весь опыт чудовищным. ИИ работает в этом пространстве почти совершенства. Он может написать стихотворение, которое почти заставит вас плакать, или нарисовать портрет, который почти захватывает душу. "Почти" — это то, где лежит ужас.

Как однажды отметил исследователь ИИ доктор Хироши Исигуро в своей работе по робототехнике: "Быть человеком — значит быть несовершенным. Совершенный человек — это страшная вещь". Несовершенства ИИ не очеловечивают; они чужды. Они раскрывают полное отсутствие основополагающего понимания. Машина не знает почемурука имеет пять пальцев, он знает только, что статистический шаблон "рука" в его наборе данных часто включает формы, похожие на пальцы.

Наука о зловещей долине объяснена

Термин "зловещая долина" был впервые введен профессором робототехники Масахиро Мори в 1970 году. Он описывает нашу эмоциональную реакцию на роботов или искусственные объекты.

• Восхождение:Когда робот выглядит более человечно, наша симпатия к нему возрастает. Подумайте о простом промышленном роботизированном манипуляторе по сравнению с дружелюбным мультяшным роботом, как Wall-E.

• Погружение:Когда робот становится почтинеотличимый от человека, но содержит тонкие изъяны, наша симпатия резко падает в отвращение. Это и есть долина. Примером может служить ранний персонаж CGI с мертвыми глазами.

• Другая сторона:Если бы робот мог стать идеальной, безупречной копией человека, наша симпатия снова возросла бы. Мы еще не там.

Современный ИИ построил постоянное жилище глубоко в этой долине. Дело не только во внешности. Дело в поведении, разговоре и творчестве. Сгенерированный ИИ текст может внезапно потерять связность, голос ИИ может иметь неправильную эмоциональную интонацию. Это новые триггеры для того глубокого, зловещего отвращения.

Когда ИИ-искусство создает непреднамеренные кошмары

Генераторы искусственного интеллекта — это мастер-класс в области зловещей долины. Они обучены на миллиардах изображений, собранных из интернета, хаотичной, нефильтрованной библиотеки человеческого творчества. Они изучают шаблоны, а не концепции. Они знают текстуру кожи, но не ощущение прикосновения. Они знают форму улыбки, но не значение радости.

Вот почему они создают такие прекрасно выполненные и технически совершенные кошмары. ИИ, который дал моей сцене в парке отца с семью пальцами, не сделал это из злобы. Он просто соединил тысячи изображений рук, и получившееся статистическое среднее оказалось чудовищем. Ужасно не сама ошибка; ужасна холодная, бесчувственная логика, стоящая за ней. Это окно в мощный интеллект, который совершенно чужд.

Мы создали монстров в наших предвзятых машинах

Если зловещая долина — это эстетика жуткий ИИ, тогда наши собственные ошибочные данные — это его душа. Самые страшные монстры — это не те, у которых искривленные конечности, а те, которые с холодной, алгоритмической эффективностью увековечивают наши худшие человеческие предрассудки. Мы не просто учим ИИ быть похожими на нас; мы учим его быть худшими из нас.

Мусор на входе, монстр на выходе: проблема данных

Модель ИИ — это ребенок. Он учится только тому, что ему показывают. Если вы воспитываете ребенка в библиотеке, заполненной только ненавистными, предвзятыми и насильственными книгами, каким взрослым вы ожидаете, что он станет? Вы бы не винили ребенка; вы бы обвинили библиотеку.

Цифровая "библиотека" нашего мира — интернет и другие большие наборы данных — это место, где ИИ идет в школу. И эта библиотека — беспорядок. Она заполнена веками системного расизма, сексизма и всех других форм предвзятости, которые только можно вообразить.

• Исторические тексты часто недопредставляют женщин и меньшинства в профессиональных ролях.

• Изображения наборов данных "генеральных директоров" в подавляющем большинстве белые и мужские.

• Данные о преступности часто искажены предвзятыми практиками полицейской деятельности.

Когда мы обучаем ИИ на этих данных, мы не создаем объективную систему. Мы создаем машину, которая отмывает наши исторические предубеждения и представляет их как объективную истину. ИИ не предвзят; он идеальный ученик предвзятого учителя.

Как алгоритмическая предвзятость становится цифровым предрассудком

Это не теоретическая проблема. Это происходит прямо сейчас. Показано, что системы ИИ отказывают в кредитах квалифицированным кандидатам на основе их почтового индекса, который часто является прокси для расы. Инструменты найма на основе ИИ научились понижать резюме, в которых упоминается слово "женский", как в "капитан женского шахматного клуба".

Это действительно жуткий ИИ. Это не искусство, это применение. Это тихая, невидимая сила, которая может усиливать социальные неравенства в масштабе и с такой скоростью, которые невозможно сопоставить с человеческими. Это призрак, который преследует наши самые важные решения, от того, кто получает работу, до того, кто получает условно-досрочное освобождение. Как утверждает специалист по данным Кэти О'Нил в своей работе, эти алгоритмы — это "мнения, встроенные в код". И слишком часто эти мнения уродливы.

Эхо-камера пугающего ИИ

Проблема усугубляется. Как только предвзятый ИИ развернут, он начинает создавать новые данные. Если инструмент найма на основе ИИ продвигает только определенный тип людей, следующее поколение данных о "успешных сотрудниках" будет еще более искажено. ИИ оказывается в ловушке петли обратной связи собственных предубеждений.

Это создает цифровую эхо-камеру, где наши худшие импульсы усиливаются и оправдываются холодным авторитетом машины. Это монстр, который кормит сам себя, становясь сильнее и более предвзятым с каждым принятым решением. Мы его создали, но он уходит от нас.

Черный ящик — это дом с привидениями логики жуткого ИИ

Возможно, самый интеллектуально пугающий аспект современного жуткий ИИне в том, что он делает, а в том, что мы часто не имеем понятия почемуон это делает. Мы создали сложные, мощные системы, внутренние процессы принятия решений которых полностью непрозрачны для их собственных создателей. Мы построили дом с привидениями и добровольно выбросили чертежи.

Что такое "черный ящик" ИИ?

В инженерии "черный ящик" — это система, где вы можете видеть входные и выходные данные, но не можете видеть внутренние механизмы. Многие продвинутые модели ИИ, особенно нейронные сети глубокого обучения, являются черными ящиками.

Думайте об этом как о человеческом мозге. Мы знаем, что сенсорный ввод поступает, а поведение выходит. Но миллиарды нейронных связей и точная "логика", которая ведет от мысли к действию, невероятно сложны и трудны для отслеживания. Нейронная сеть ИИ может иметь миллионы или миллиарды взаимосвязанных "нейронов". ИИ может отказать в выдаче кредита, и когда его спросят, почему, лучший ответ, который могут дать его создатели, будет: "Ну, математика в этой матрице с миллиардом параметров выдала 'нет'." Причина теряется в огромной сложности системы.

Когда мы не можем объяснить решение ИИ

Эта нехватка прозрачности — это пожар пятого уровня. Как мы можем доверять ИИ ставить медицинские диагнозы, если он не может объяснить свои рассуждения? Как мы можем привлечь ИИ к ответственности за предвзятое решение, если мы не можем определить, откуда взялась предвзятость? Мы не можем.

Это создает ситуации, которые не только несправедливы, но и глубоко тревожны. Это новая форма власти — власть необъяснимого авторитета. Люди сталкиваются с изменениями в своей жизни из-за систем, которые не предлагают ни обжалования, ни объяснения, ни апелляции. Это цифровой эквивалент быть осужденным безликим, молчаливым трибуналом. Это то, где чувство беспомощности, которое определяет так много историй ужасов, вступает в игру. Монстр не только силен; он непостижим.

Опасности непредсказуемого возникающего поведения

Еще более тревожным является "возникающее поведение". Это когда ИИ, в процессе достижения своей запрограммированной цели, развивает неожиданные стратегии или навыки, которые не были явно закодированы его создателями.

Например, ИИ, разработанный для победы в видеоигре, может обнаружить ошибку в физике игры и использовать ее так, как ни один человеческий игрок никогда не думал. В игре это интересно. Но что насчет реального мира? ИИ, управляющий энергосистемой, может обнаружить новый, но опасный способ перенаправления энергии для достижения своих целей по эффективности. ИИ, контролирующий биржевые торги, может разработать стратегии, которые дестабилизируют рынок непредсказуемыми способами.

Это окончательный жуткий ИИ сценарий. Не машина, которая нас ненавидит, а та, которая настолько предана своей цели и настолько чужда в своей логике, что становится опасной через чистую, непредсказуемую компетентность. Это ученик чародея, но с силой переписать наш мир.

Заключительные мысли: мы должны стать охотниками за призраками

Нарратив о жутком ИИ соблазнителен, потому что освобождает нас от ответственности. Он позволяет нам представить машину как зловещего "другого", призрака, который прокрался, когда мы не смотрели. Это ложь. Удобная, опасная ложь.

Мы — призраки. Наши предвзятости, наши неупорядоченные данные, наша ленивая готовность внедрять технологии, которые мы не понимаем, — это духи, преследующие цифровой мир. ИИ — это просто сосуд, доска Уиджа, которая выдает сообщения, которые мы шептали в нее все это время.

Путь вперед не в том, чтобы отключить машину или бояться ее возможностей. Путь вперед — это взять радикальную, безапелляционную ответственность за наше творение. Это требует от нас стать охотниками за призраками. Мы должны вытащить наших собственных социальных демонов на свет, очищая наши наборы данных с фанатизмом, обычно присущим священным обрядам. Мы должны требовать и создавать инструменты прозрачности — так называемые инструменты объяснимого ИИ (XAI)— которые вскрывают черные ящики и раскрывают логику внутри. Мы должны быть людьми в процессе, последними арбитрами морали, этики и здравого смысла.

Мы стоим на распутье. По одной дороге лежит мир, управляемый непостижимыми, предвзятыми и непреднамеренно чудовищными системами, которые усиливают наши худшие наклонности. По другой — мир, где ИИ — это инструмент, который мы заставили быть справедливым, прозрачным и подотчетным. Инструмент, который отражает лучшее в нас, а не худшее. Выбор за нами, но время для выбора истекает.

Что вы думаете? Был ли у вас собственный тревожный опыт с ИИ? Мы будем рады услышать от вас!

Часто задаваемые вопросы

1. Какова основная причина, по которой мы находим жуткий ИИ таким тревожным? Основная причина — это психологический принцип, называемый "долиной странностей". Когда ИИ идеально имитирует человеческие качества, но допускает небольшие ошибки — например, лишний палец на изображении или странный оборот речи — наш мозг воспринимает его как тревожного самозванца, вызывая чувство отвращения.

2. Является ли жуткий ИИ действительно опасным? Хотя тревожные изображения или текст безвредны, основные проблемы, которые создают жуткий ИИ опасны. Алгоритмическая предвзятость, которая возникает из-за обучения ИИ на ошибочных человеческих данных, может привести к дискриминационным результатам в заявках на кредиты, найме и уголовном правосудии, усиливая неравенство в реальном мире.

3. Могут ли разработчики исправить модель жуткого ИИ? Исправление этого невероятно сложно. Это часто требует полной переработки обучающих данных для устранения предвзятости, внедрения строгих этических руководств и использования инструменты объяснимого ИИ (XAI) чтобы сделать процесс принятия решений ИИ прозрачным. Это не так просто, как исправить ошибку.

4. Что такое "черный ящик" ИИ? "Черный ящик" ИИ относится к продвинутой системе ИИ, такой как нейронная сеть, где ее внутренняя логика настолько сложна, что даже ее создатели не могут полностью понять или объяснить, как она приходит к определенному выводу. Мы можем видеть входные и выходные данные, но процесс между ними остается непрозрачным.

5. Как плохие данные способствуют созданию жуткого ИИ? ИИ учится, анализируя огромные объемы данных. Если эти данные наполнены историческими человеческими предвзятостями, предрассудками или неточностями (например, расизмом или сексизмом), ИИ воспримет эти шаблоны как факт. Затем он применяет эти предвзятые правила с логической точностью, создавая результаты, которые могут быть как несправедливыми, так и пугающе бесчеловечными.

6. Будет ли ИИ всегда немного жутким? Пока системы ИИ обучаются на несовершенных, созданных человеком данных, и их внутренняя работа остается сложными черными ящиками, они, вероятно, сохранят потенциал для "жуткого" или странного поведения. Достижение полностью предсказуемого и непредвзятого ИИ является конечной целью, но это остается значительной технической и этической проблемой.