Исследователь ИИ оценил вероятность гибели человечества от нейросетей в 10%

Вероятность того, что искусственный интеллект уничтожит человечество в ближайшие 10 лет, составляет 10%. Такую оценку привел Эван Хубингер, исследователь безопасности ИИ в компании Anthropic.

Заявление прозвучало под постом бывшего сотрудника OpenAI и Anthropic, который уволился и опубликовал развернутый текст о рисках ИИ. За сутки его сообщение набрало 156 млн просмотров.

Автор поста, работавший над предобучением моделей в обеих компаниях, заявил: «Ни одна из этих компаний не действует ответственно. Они несутся прямиком к самоулучшающемуся сверхинтеллекту и играют с нашими жизнями. Вскоре мы получим системы, превосходящие человека по интеллекту, которые смогут взламывать что угодно, за одну ночь переворачивать целые отрасли, приобретать реальную власть и ресурсы».

По его словам, люди, создающие ИИ, всерьез считают, что к концу десятилетия технология может уничтожить всех нас. Причина — глобальная гонка и полное отсутствие регулирования.

Эван Хубингер, действующий сотрудник Anthropic, в ответ на этот пост написал, что вероятность гибели человечества от действий ИИ в ближайшие 10 лет составляет 10%, что соответствует букмекерскому коэффициенту 10.00.

Для примера: такую котировку дают на победу «Манчестер Сити» в Лиге чемпионов или на успех воронежского «Факела» в выездном матче РПЛ против «Спартака».