Илон Маск поддержал Дарио Амодеи по поводу рисков ИИ

Илон Маск резко высказался о безопасности ИИ. Он написал, что надеется на доброжелательность искусственного интеллекта к людям, и поддержал серьезное предупреждение инвестора Навала Равиканта.

Маск опубликовал сообщение через минуту после того, как оставил комментарий «Интересный диалог» под тредом гендиректора Anthropic Дарио Амодеи. Топ-менеджер до этого защищал свои прогнозы о рисках ИИ от обвинений в излишнем пессимизме.

Хотите еще эксклюзивных новостей и аналитики? Подписывайтесь на наш телеграм-канал, обсуждайте новости и делитесь мнениями о последних событиях рынка в чате!

Зачем Амодеи подчеркивает риски ИИ

Обсуждение запустил инвестор Гэвин Бейкер. Управляющий из Кремниевой долины заявил, что слухи об Амодеи расходятся быстро, потому что совпадают с тем, как глава Anthropic обычно говорит на публике.

Амодеи не согласился с тем, что говорит только об опасностях. По его словам, два главных эссе делят внимание между рисками и выгодами поровну. Короткие интервью часто выглядят мрачно, потому что такие ролики собирают клики, добавил гендиректор.

По словам Амодеи, работа Machines of Loving Grace о плюсах ИИ появилась именно потому, что члены отрасли слишком сгущали краски.

Он также назвал глубинную причину: обычные люди не доверяют компаниям, госструктурам и IT-индустрии. Из-за этого недоверие переносится и на искусственный интеллект — подозрения копились десятилетиями.

Это недоверие сказывается и на регулировании. Амодеи в июне предложил обязательно тестировать ведущие модели вместо добровольных обещаний. Он через несколько дней обратился к G7 и предупредил об опасности разрозненных национальных правил.

«Самая справедливая критика в адрес компаний, занимающихся ИИ, в том числе Anthropic — мы до сих пор не выполнили главное обещание: принести пользу миру», — заявил Амодеи.

Маск вступает в спор о добрых намерениях ИИ

Маск назвал диалог интересным и тем самым обратил внимание на сложность спора. Кроме упора Амодеи на регулирование, обсуждение затрагивает и философские вопросы. Навал Равикант сформулировал их так: нельзя создать бога и посадить его на поводок.

Маск повторил эту мысль почти дословно: «Надеюсь, ИИ будет к нам добр». В его сдержанном признании звучит предупреждение: если люди потеряют контроль над суперинтеллектом, обществу останется надеяться только на добрую волю собственного творения.

Маск уже высказывался в поддержку Anthropic. Гендиректор Tesla ранее раскритиковал закрытость OpenAI и отметил, что Амодеи выбрал другой путь.

Последний также поспорил с привычным для Кремниевой долины взглядом. По его словам, регулирование не всегда ведет к концентрации власти. Закон Калифорнии SB 53 о безопасности ИИ, который поддерживает Anthropic, освобождает от требований компании с выручкой ниже $500 млн.

Похожий спор возник в июне, когда Виталик Бутерин выступил против растущего национализма в сфере ИИ.

Амодеи назвал два подхода, которые считает правильными. Первый предложила администрация Трампа — проверять продвинутые модели до выхода. Второй выдвинул глава Google DeepMind Демис Хассабис — создать регулятора по образцу FINRA (американская саморегулируемая организация на рынке брокеров и дилеров).

Амодеи в конце вернулся к своему самому громкому обещанию. ИИ в области биологии может вылечить большинство болезней человека за пять–десять лет, уверен он. В Anthropic и Pfizer уже считают искусственный интеллект в медицине ключевой инфраструктурой.

Глава Anthropic связал эту цель с историей из своей жизни: его отец умер от гепатита C незадолго до появления действенных лекарств. При этом Амодеи не стал делать громкую рекламу. Фразы вроде «ИИ вылечит рак», по его мнению, звучат пусто. Помогает само лечение болезни, а не слоганы.

Хотите получить доступ к экспертным инсайдам? Подписывайтесь на наш новостной телеграм-канал, а также вступайте в сообщество BeInCrypto! Читайте последние новости и свежую аналитику криптовалют, ИИ и фондовых рынков. Будьте на шаг впереди толпы каждый день!