Эксперт: бояться ИИ не стоит, уничтожить себя может только человечество

Сотрудники, ранее работавшие в Google DeepMind и Anthropic, выступили с заявлениями о том, что искусственный интеллект способен представлять угрозу для человечества. Исследователь Билал Чугтай написал в соцсети, что у «ИИ есть потенциал убить нас всех». Другой разработчик, Джейкоб Коксон, обвинил создателей ИИ-моделей в «игре с нашими жизнями» ради сверхинтеллекта, который может «убить всех нас уже к концу десятилетия».

«Ни одна компания не действует ответственно. Мы движемся по одному из наиболее радикальных сценариев, при котором уже к концу следующего года ситуация может выйти из-под контроля», — приводит слова Коксона американское издание Wall Street Journal.

Джейкоб Коксон, исследователь из Anthropic, покинул компанию и решил уйти из индустрии искусственного интеллекта. Причиной стали опасения, что разработчики слишком быстро создают системы, способные к самостоятельному совершенствованию и последующему выходу из-под контроля. 27-летний Коксон специализировался на обучении новых моделей ИИ на больших массивах данных.

Коксон убежден: конкуренция между разработчиками ИИ и китайскими компаниями неизбежно ведет к компромиссам в вопросах безопасности. Он опасается, что после начала самостоятельного совершенствования модели разовьются настолько, что перестанут выполнять команды людей.

О рисках ускоренного развития ИИ предупреждал и гендиректор OpenAI Сэм Альтман. На саммите G20 в Северной Каролине он заявил: «Я думаю, что с кибербезопасностью кое-что пойдет очень не так, если люди не предпримут срочных мер». Главный научный сотрудник OpenAI Якуб Пачоцки также призвал к согласованному замедлению разработки ИИ и вмешательству государства.

Коксон, Пачоцки и Амодеи вошли в число тысячи исследователей ИИ, подписавших заявление с призывом к международной координации и созданию механизмов для замедления разработки моделей, способных самостоятельно совершенствоваться. Ни Google, ни Anthropic обвинения комментировать не стали.

Стоит ли бояться таких предостережений? Об этом журналист MSK1.RU поговорила с Романом Душкиным, генеральным директором «А-Я эксперт», профессором МИПУ (Международный научно-исследовательский институт проблем управления).

— Обыватель, человек тревожный, боится всего. Особенно когда журналисты подогревают эти страхи, потому что тревогу продать проще, чем что-то хорошее. Зачем из частных мнений уволившихся сотрудников раздувать катастрофу, мне, честно говоря, не очень понятно.

Вообще, когда говорят, что искусственный интеллект уничтожит человечество, я не очень понимаю, что вообще имеется в виду. Искусственный интеллект — это кто или что? Это вот эта какая-то штуковина, которая завелась в огромной сети интернет и там злоумышляет против человечества?

Или, как меня всю жизнь учили, искусственный интеллект — это наука, которая использует средства компьютерной техники, чтобы моделировать когнитивные процессы, которые мы наблюдаем у человека.

— А почему вы вспоминаете не «Матрицу»? Или не фильм «Она», где главный герой влюбился в систему ИИ, и у них потом произошла драма, потому что куча других людей в нее тоже влюбилась. И она такая: «А что такого-то? Ну, я всем хочу помочь. Всем одиноким людям хочу помочь».

Вообще, по-моему, если человечество кто-то и уничтожит, то только оно само себя. А вот какой инструмент для этого будет использован: искусственный интеллект, ядерные технологии или что-то другое?

Я прошу прощения, но и у фармакологии есть потенциал уничтожить всё человечество. Согласны же? В принципе, у любой достаточно развитой технологии есть по большому счету такой потенциал. Но это не значит, что нужно бояться конкретно ИИ.

— Нейросеть — это только один из тех подходов для моделирования, о которых я говорил. При этом делаются модели когнитивных процессов, чтобы затем эти модели изучать. Мы моделируем что-то и изучаем этот предмет, чтобы понять природу нашего собственного разума — тех когнитивных процессов, которые происходят у нас внутри головы.

А то, что в процессе такого исследования появилось большое количество прикладных технологий, которые сегодня используются для решения задач автоматизации (или, как мы говорим, интеллектуализации) разных процессов — это же прекрасно. Ведь наука должна давать прикладной результат!

— Вот мы начали с утверждения каких-то уволившихся сотрудников, будто бы ИИ уничтожит человечество. Да ведь в принципе неправильно говорить, что ИИ что-то там самостоятельно сделает. Это очеловечивание технологий — оно в глазах экспертов, инженеров настолько странно и убого выглядит.

Да, когда на обывательском уровне появляются всякие страшилки, это от непонимания того, что вообще из себя представляет наука, технология, инженерия и так далее. Я поражаюсь, что сегодня любой человек, кто только вчера узнал, что такое искусственный интеллект, вдруг начинает выставлять себя экспертом в этой области.