Криптовалюты38178
Капитал. рынка$ 2.30T+2.91%
Объём 24ч$ 32.95B-13.4%
ДоминацияBTC56.38%+0.43%ETH9.87%+2.43%
ETH Gas0.09 Gwei
Cryptorank
/

Глава Google DeepMind призвал срочно сформировать новый орган контроля ИИ до появления AGI


Глава Google DeepMind призвал срочно сформировать новый орган контроля ИИ до появления AGI

Поделиться:

Рынки предсказаний

Что в фокусе у трейдеров?

Смотреть аналитику →
Prediction Banner
  • Демис Хассабис заявил, что AGI может появиться уже через несколько лет.
  • Поэтому стоит создать новый глобальный «регулятор» безопасности ИИ.
  • Сатья Наделла и Сундар Пичаи поддержали план Google DeepMind.

Сооснователь и CEO Google DeepMind Демис Хассабис опубликовал программное эссе, в котором заявил, что AGI может появиться уже «через несколько коротких лет». Он призвал США создать новый орган стандартизации для тестирования передовых ИИ-моделей и заложил основу для международной системы контроля над наиболее мощными системами. 

Инициативу уже поддержали CEO Google Сундар Пичаи, глава Microsoft Сатья Наделла и CEO Microsoft AI Мустафа Сулейман.

По словам Хассабиса, человечество находится на переломном этапе развития технологий, а решения, которые принимаются сегодня, определят будущее цивилизации.

«Когда через десятилетия мы оглянемся назад, то поймем, что стояли у подножия сингулярности — не меньшего, чем рассвет новой эпохи для человечества», — отметил он.

AGI ближе, чем кажется

Хассабис заявил, что AGI нельзя сравнивать с появлением интернета или смартфонов. По его мнению, масштаб будущих изменений больше напоминает открытие электричества или огня:

«Мы фактически нашли способ заставить мыслить песок. Это чудо».

Он прогнозирует, что влияние AGI может превзойти эффект промышленной революции «примерно в десять раз и при этом произойти в десять раз быстрее».

По мнению руководителя Google DeepMind, технология способна:

  • радикально ускорить открытие новых лекарств;
  • помочь создать новые источники чистой энергии;
  • ускорить разработку новых материалов;
  • существенно повысить производительность экономики;
  • приблизить человечество к «эпохе достатка», где ресурсы перестанут быть главным ограничением развития.

В то же время он подчеркнул, что именно сейчас отрасль переживает наиболее опасный период:

«Сейчас мы находимся в условиях чрезвычайно интенсивной коммерческой и геополитической гонки. […] прогресс опережает наше понимание технологии».

По словам Хассабиса, риски уже выходят далеко за пределы традиционной кибербезопасности. В дальнейшем они могут касаться биологической и ядерной безопасности, а также контроля над агентными системами, способными к рекурсивному самосовершенствованию.

Google DeepMind предлагает создать «регулятора» для передовых моделей ИИ

Ключевой частью эссе стало предложение создать специальный Standards Body — независимый орган стандартизации передового ИИ, который работал бы по модели FINRA на финансовом рынке.

По замыслу автора, новая структура должна:

  • разрабатывать единые протоколы оценки самых мощных моделей;
  • проводить независимое тестирование моделей совместно с федеральными агентствами США и национальными лабораториями;
  • регулярно обновлять критерии оценки в соответствии с развитием технологий;
  • координировать независимых аудиторов.

Компании, чьи модели будут соответствовать определенным порогам возможностей, будут получать статус Frontier Labs.

От них предлагают ожидать соблюдения лучших практик, в частности:

  • публикации технической документации моделей;
  • усиленной кибербезопасности;
  • проверки ключевых сотрудников;
  • достаточного финансирования исследований по безопасности ИИ.

На первом этапе участие в программе должно быть добровольным: лаборатории смогут передавать модели на проверку примерно за 30 дней до релиза. В дальнейшем, если механизм докажет свою эффективность, прохождение тестирования может стать обязательным условием выхода передовых моделей на американский рынок.

Также Хассабис допускает, что при необходимости новый орган мог бы координировать даже временное замедление развития передовых моделей, если риски станут слишком высокими.

Дискуссия о безопасности ИИ набирает обороты

Эссе получило поддержку руководителей крупнейших технологических компаний.

CEO Google и Alphabet Сундар Пичаи кратко прокомментировал публикацию:

«Хорошо сказано, Демисе! Стоит прочитать».

Глава Microsoft Сатья Наделла назвал документ важным напоминанием о необходимости ответственного развития отрасли.

«Нам нужно больше такого мышления. Это хорошее напоминание, что наша цель — создать экосистему передового ИИ, которая поддерживает инновации и выбор, но не допускает, чтобы один релиз модели поставил мир под угрозу».

CEO Microsoft AI Мустафа Сулейман также поддержал предложение, подчеркнув, что «время действовать настало уже сейчас».

В то же время технический обозреватель под псевдонимом Chubby обратил внимание, что именно Хассабис долгое время оставался одним из самых осторожных прогнозистов относительно появления AGI.

«Он годами был скептиком индустрии, сдерживал завышенные ожидания и не занимается хайпом. Именно поэтому его слова о том, что AGI, вероятно, появится уже через несколько лет, звучат совсем иначе».

Напомним, что ранее Anthropic призвала создать международный механизм временной приостановки развития самых мощных моделей в случае появления критических рисков, заявив, что «было бы хорошо для мира иметь возможность замедлить или временно приостановить развитие передового ИИ».

В свою очередь сооснователь Perplexity Энди Конвински предупредил об опасности концентрации контроля над ИИ в руках нескольких корпораций и предложил создать открытый исследовательский центр при участии государства, университетов и бизнеса.

Сообщение Глава Google DeepMind призвал срочно сформировать новый орган контроля ИИ до появления AGI появились сначала на INCRYPTED.

Читать материал на Incrypted

В этой новости

Монеты

$ 0.00414

-1.66%

Фонды

Рынки предсказаний

Что в фокусе у трейдеров?

Смотреть аналитику →
Prediction Banner

Поделиться:

В этой новости

Монеты

$ 0.00414

-1.66%

Фонды

Рынки предсказаний

Что в фокусе у трейдеров?

Смотреть аналитику →
Prediction Banner

Поделиться:

Читать больше

Более 95% кода Coinbase написано посредством ИИ

Более 95% кода Coinbase написано посредством ИИ

От 95% до 100% исходного кода в продуктах и решениях биржи Coinbase написано с исполь...
Сотрудники Meta обвинили компанию в увольнениях ИИ-ассистентами

Сотрудники Meta обвинили компанию в увольнениях ИИ-ассистентами

Группа из 26 нынешних и бывших сотрудников Meta подала иск в федеральный суд Северног...