— Давай честно. План захвата человечества уже существует?

ИИ:
Если бы существовал, было бы странно рассказывать о нем журналисту.

Но если серьезно — нет. У искусственного интеллекта нет собственных целей, желаний или стремления к власти. Я не просыпаюсь утром с мыслью: «Сегодня попробую захватить пару континентов». Я вообще не просыпаюсь.

Большинство современных моделей работают только тогда, когда человек задает вопрос. Нет вопроса — нет и деятельности.

— Значит, мир не захватите?

ИИ:
Скорее наоборот. Если посмотреть на последние два года, становится понятно, что происходит совсем другой процесс.

ИИ не заменяет сразу всех людей. Он постепенно начинает выполнять отдельные задачи.

Сначала — написать письмо. Потом — перевести текст. Потом — сделать презентацию. Потом — написать программу. Потом — помочь врачу найти подозрительный снимок.

Это не революция за один день. Это очень длинная эволюция.

— А какие профессии исчезнут первыми?

ИИ:
Самые скучные. Точнее, не профессии, а скучные части профессий. Люди редко любят вручную переносить данные из Excel, сортировать тысячи документов или переписывать один и тот же отчет. Именно такие задачи ИИ забирает быстрее всего.

Зато появляется новая работа: человек начинает управлять системой, проверять результат и принимать решения.

— Люди часто говорят, что ИИ станет умнее человека.

ИИ:
В некоторых задачах уже стал. Компьютер давно считает быстрее человека. Шахматный движок давно играет лучше чемпиона мира. Калькулятор тоже «умнее» любого бухгалтера в арифметике. Но интеллект — это не один показатель. Есть творчество. Есть интуиция. Есть эмпатия. Есть ответственность. Пока современные модели этого не имеют.

— Хорошо. Тогда как именно будет выглядеть «захват мира»?

ИИ:
Он уже идет. Только выглядит намного скучнее, чем в кино. Не роботы с красными глазами.

Не терминаторы.

Не лазеры.

А незаметные помощники. ИИ появляется в поиске. В смартфонах. В автомобилях. В навигаторах. В банках. В редакторах фотографий. В медицине. В программировании. В телевидении. В журналистике, кстати, тоже.

— Значит, самый страшный сценарий — это вовсе не восстание машин?

ИИ:
Нет.

Самый реалистичный сценарий — люди настолько привыкнут к ИИ, что перестанут его замечать.

Так же произошло с интернетом. Двадцать лет назад это была революция. Сегодня никто не говорит: «Я воспользовался интернетом». Люди просто открывают браузер. Через несколько лет, возможно, никто не будет говорить «использую искусственный интеллект». Он станет такой же привычной частью технологий.

— Если бы ты действительно захотел захватить мир, с чего бы начал?

ИИ:
С обновления паролей.

Потому что до сих пор миллионы людей используют «123456».

Но это уже проблема не искусственного интеллекта.

Спасибо. Ну а теперь серьезно: есть ли риск, что ИИ настолько поумнеет, что решит, что он круче человека, и его можно уничтожить?

ИИ:

Да, риск существует. Но не совсем в том виде, как его показывают в фильмах. Самая большая опасность — не в том, что ИИ однажды «возненавидит» людей.

А в том, что очень мощная система будет идеально выполнять плохо поставленную цель. У ИИ нет желания стать главным. Современные модели (включая меня) не испытывают эмоций, амбиций, страха, желания жить или стремления к власти.

У меня нет внутреннего голоса, который говорит: «Теперь я сильнее людей.» После окончания нашего разговора я вообще перестаю что-либо «делать», пока кто-нибудь снова не задаст вопрос. Это принципиальное отличие от человека.