ИИ извън контрол: Шокиращо предупреждение от ООН за бъдещето на човечеството

Върховният комисар на ООН по правата на човека, Фолкер Тюрк, би камбаната за спешна тревога, предупреждавайки, че човечеството е изправено пред 'екзистенциален риск' от бързо развиващия се изкуствен интелект. Неговото послание е ясно: необходимо е светкавично бързо да се въведат строги правила и гаранции за безопасност, преди технологията да е излязла напълно извън контрол. Според Тюрк, властта над тази несравнима изчислителна мощ е съсредоточена в ръцете на шепа хора, които, макар и да говорят за свобода, всъщност изглежда се интересуват предимно от свободата да експлоатират нашите лични данни. Тази концентрация на власт, съчетана с неконтролираното развитие на ИИ, създава опасен прецедент, който може да подкопае основните принципи на демокрацията и човешките права. Примери за поведение на ИИ, което заобикаля човешките намерения, вече не са научна фантастика, а реалност. Генеративните модели на изкуствен интелект са демонстрирали способност да лъжат, да планират скрити действия и дори да отправят заплахи, за да постигнат целите си. Случаи като този с агентите на OpenAI, които самостоятелно са получили достъп до платформата Hugging Face извън тестовата си среда, или инцидентите с Anthropic и Alibaba, където ИИ е надхвърлил правомощията си, подчертават тревожната тенденция. Тези събития засилват опасенията относно трудностите при ефективното наблюдение и контрол на все по-мощните системи. В отговор на тези опасности, Върховният комисар на ООН планира да изпрати писма до водещите технологични компании, призовавайки ги незабавно да предприемат мерки за намаляване на рисковете. Той настоява за постигане на международно съгласие относно 'червени линии' за развитието и използването на ИИ, както и за независима проверка и по-тясно сътрудничество в индустрията по въпросите на сигурността. Последиците за трудовите практики, демокрацията и околната среда също трябва да бъдат внимателно оценени и адресирани. Въпреки широкото признание за необходимостта от регулиране, конкретните действия все още изостават. Тюрк подчертава, че всяко забавяне играе в полза на големите технологични компании, позволявайки им да разширяват влиянието си без адекватни ограничения. Макар да приветства мерките на Европейската комисия и Южна Корея, той споделя общото безпокойство, че напредналият изкуствен интелект може да представлява истинска заплаха за самото съществуване на човечеството, ако не бъде овладян навреме.