В ООН заявили, что развитие искусственного интеллекта угрожает человечеству

«Передовой искусственный интеллект может представлять экзистенциальную угрозу для человечества», — заявил верховный комиссар ООН по правам человека Фолькер Тюрк. Он также указал, что лишь горстка людей обладает почти неограниченной властью над ИИ-технологиями. Конкретных людей он не упомянул, но агентство Reuters предполагает, что речь шла о компаниях, которые занимаются разработками. Это OpenAI, Anthropic, Google и прочие ИИ-лаборатории. По мнению Тюрка, необходимо, чтобы страны, развивающие искусственный интеллект, и все участники цепочек поставок согласовали «красные линии», за пределы которых ИИ не должен выходить. То есть подразумевается разработка некоего механизма контроля. Но координация между странами в данный момент времени вряд ли возможна, считает генеральный директор «А-Я эксперт», профессор МНИИПУ Роман Душкин: Роман Душкин генеральный директор «А-Я эксперт», профессор МНИИПУ «Есть много разных нюансов. Чтобы не получилось так же, как с ядерным оружием, с ядерными технологиями в свое время, человечеству нужно сейчас договориться, взяться за руки и совместно работать над этими вещами. И не потому, что искусственный интеллект угрожает человечеству. Человечеству угрожает человечество, которое разделено, и первое, что оно начинает делать, — это, конечно, военный искусственный интеллект для уничтожения себе подобных. Текущая геополитическая обстановка в мире не способствует тому, чтобы страны объединились, договорились и вместе занимались развитием технологий искусственного интеллекта для того, чтобы развивать научно-технический прогресс и решать глобальные задачи». Предупреждения со стороны ООН появились на фоне регулярных новостей о том, как автономные ИИ-агенты сбегают из «песочниц» и как они взламывают различные системы. Особенно громкой была атака на сервис Hugging Face, ее осуществил рой ИИ-агентов от ChatGPT. Тогда атаку удалось отразить — с помощью, кстати, китайской модели. Кроме того, на днях OpenAI представила новую модель Astra. Как писало Reuters, она способна самостоятельно среди прочего подготавливать налоговую отчетность, разрабатывать видеоигры, искать квартиры на покупку или аренду и многое-многое другое. Одновременно со всем этим Astra заставляет отрасль беспокоиться, в частности, она скрывает методы того, как она решает те или иные задачи. То есть проводить мониторинг, следить за ее действиями становится сложнее. Создать какую-то платформу, площадку, с помощью которой будет проводиться общемировое регулирование в сфере ИИ, нужно в ближайшее время, считает партнер по Legal Tech и автоматизации процессов BGP Litigation Евгений Журба: Евгений Журба партнер по Legal Tech и автоматизации процессов BGP Litigation «Развитие инструментов искусственного интеллекта происходит очень быстро и скачкообразно. Понятно, таких агентов надо регулировать, вопрос в том, кто может это регулировать. Очень может быть, что, что бы ни разработала ООН, это будет носить декларативный характер. Выглядит так, что ООН не самая профильная организация, где нужно регулировать такие вещи. Про площадку надо думать отдельно. Кажется, что у людей есть всего полгода-год для того, чтобы договориться, кто может быть такой площадкой, найти правильный формат, чтобы выпустить какие-то акты». Верховный комиссар ООН по правам человека Фолькер Тюрк также указывает на то, что разработать какой-то совместный механизм контроля нужно как можно скорее. Он призвал приложить все усилия для введения гарантий безопасности искусственного интеллекта, «пока не стало слишком поздно».