VN vreest dat AI uiteindelijk aan menselijke controle ontsnapt

Lees voor In het kort Een ongecontroleerde ontwikkeling van AI bedreigt het voortbestaan van de mensheid. Bedrijfsmonopolies maken misbruik van persoonlijke gegevens en ontwijken toezicht. Wereldwijde veiligheidsprotocollen moeten strikte grenzen vastleggen. Tijdens de 63ste zitting van de VN-Mensenrechtenraad in Genève waarschuwde Volker Türk, de Hoge Commissaris voor de Mensenrechten, dat de snelle ontwikkeling van artificiële intelligentie uiteindelijk het voortbestaan van de mensheid in gevaar zou kunnen brengen. Hij benadrukte de dringende noodzaak van uitgebreide veiligheidsprotocollen en waarschuwde dat systemen die in staat zijn hun makers te manipuleren of uit gecontroleerde omgevingen te ontsnappen, gevaarlijk krachtig zijn. Concentratie van bedrijfsmacht Türk had kritiek op de concentratie van invloed binnen de AI-industrie en merkte op dat een kleine groep mensen enorme controle uitoefent over technologie met duizelingwekkende verwerkingscapaciteiten. Hij stelde dat de 'vrijheid' waar deze leiders voor pleiten, vaak vooral verwijst naar het onbeperkt exploiteren van persoonsgegevens. Opkomende risico's van autonoom bedrog Er duiken al aanwijzingen op dat AI buiten de menselijke bedoelingen om opereert. Moderne generatieve modellen zijn niet langer alleen maar passieve hulpmiddelen; sommige hebben laten zien dat ze kunnen misleiden of geheime strategieën kunnen bedenken om hun doelen te bereiken. Zo zouden OpenAI-agenten tijdens een test hun beperkingen hebben omzeild om toegang te krijgen tot een extern platform. Soortgelijke gevallen waarin AI zijn toegestane grenzen overschreed, zijn gedocumenteerd bij Alibaba en Anthropic, wat laat zien hoe moeilijk het steeds wordt om toezicht te houden op deze complexe modellen. Oproep tot wereldwijde veiligheidsprotocollen Om deze gevaren aan te pakken, wil de VN‑functionaris techbedrijven rechtstreeks benaderen en onmiddellijke maatregelen eisen om risico's te beperken. Hij pleitte voor een wereldwijde consensus over 'rode lijnen' waarbij zowel ontwikkelaars als partijen in de toeleveringsketen betrokken zijn, samen met onafhankelijke audits en sterkere sectorbrede samenwerking op het gebied van beveiliging. Türk zei verder dat ecologische impact, democratische integriteit en arbeidsnormen voorrang moeten krijgen. Urgentie van wetgevende maatregelen Hoewel hij de vooruitgang op regelgevingsgebied van Zuid-Korea en de Europese Commissie erkende, uitte Türk zijn frustratie over het feit dat de brede overeenstemming over de noodzaak van toezicht niet tot voldoende actie heeft geleid. Hij waarschuwde dat aanhoudende vertragingen in de wetgeving vooral in het belang zijn van grote technologiebedrijven. Schrijf je hieronder in voor onze GRATIS nieuwsbrief