Семь ведущих компаний в области ИИ - OpenAI, Google, Anthropic, Microsoft, Meta, Inflection и Amazon - встретятся сегодня с президентом Байденом, чтобы пообещать, что они будут хорошо играть со своими ИИ игрушками и не дадут нам всем умереть.

И все это после неудачной пресс-конференции ООН по ИИ, на которой один из роботов буквально заявил: "Давайте разбушуемся и сделаем этот мир своей игровой площадкой".

Все семь стран подписали добровольный и необязательный документ, касающийся безопасности, защиты и доверия к ИИ. С полным списком обязательств можно ознакомиться на сайте OpenAI. Администрация Байдена разместила свой собственный информационный листок с подробным описанием добровольного соглашения.

Но основные моменты, как их описывает TechCrunch, выглядят следующим образом. Системы ИИ будут проходить внутреннее и внешнее тестирование перед выпуском, информация о снижении рисков будет широко распространяться, внешнее обнаружение ошибок и уязвимостей будет облегчено, контент, созданный ИИ, будет снабжен надежными водяными знаками, возможности и ограничения систем ИИ будут полностью описаны, исследования социальных рисков ИИ будут приоритетными, а внедрение ИИ будет также приоритетным для решения самых серьезных проблем человечества, включая исследования рака и изменения климата.

Пока все это носит добровольный характер. Однако, по некоторым данным, Белый дом разрабатывает указ, который может обязать принимать такие меры, как внешнее тестирование перед выпуском модели ИИ.

В целом список выглядит разумным и исчерпывающим. Очевидно, что компании, занимающиеся разработкой искусственного интеллекта, добровольно подписались под этими обязательствами. Но реальным испытанием будет то, когда возникнет конфликт между этими обязательствами и коммерческими императивами.

Кроме того, есть и много других проблем. Насколько открыто компании, работающие в области ИИ, будут относиться к своим ценным ИС? Не возникнет ли у ИИ-компаний в конечном итоге тот же коммерческий стимул к сокрытию любой информации, которая может дать им конкурентное преимущество? Наверняка компании, работающие в области ИИ, больше ориентированы на получение прибыли, чем на достижение общего блага? Разве они не обязаны это делать перед своими акционерами? И т.д.