'La première responsabilité est d'abord chez Open AI' : le philosophe Louis de Diesbach revient sur les incidents lors de tests chez OpenAI

Un incident a donc eu lieu au mois de juillet lors de tests organisés par l'entreprise OpenAI pour évaluer les... pour évaluer les performances de ses modèles. Un des tests importants portait sur la cybersécurité. Pour réaliser ces tests, les IA sont placées dans ce qu'on appelle des bacs à sable ou sandbox en anglais. L'idée est de pouvoir réaliser des expériences sans danger à l'instar d'un laboratoire fermé. Mais voilà : une IA, explique le philosophe Louis de Diesbach, ne s'arrête pas tant qu'on ne lui en a pas donné l'ordre. Le test de cybersécurité que devait réaliser l'IA servait à évaluer les capacités des machines à découvrir et exploiter des failles informatiques. Lors de l'expérience, les agents ont réussi à sortir de la sandbox et à s'auto-organiser pour répondre à la demande initialeLe premier vrai problème révélé par ce test, poursuit Louis de Diesbach, c'est la conception de la sandbox. Comment OpenAI a-t-il construit ce dispositif dont il a été possible de s'échapper ? , s'interroge le philosophe, qui pointe la responsabilité de l'entreprise. Et au moment d'attribuer les responsabilités dans ces événements liés aux tests réalisés par OpenAI, Louis de Diesbach rappelle que l'IA est effectivement puissante, que cela devrait nous effrayer au regard des possibilités notamment en matière de cybersécurité. En revanche, la responsabilité, et j'insiste, il ne faut pas anthropomorphiser, l'IA n'est pas vivante, l'IA n'a pas de conscience, etc. Tout ce qu'on lui a demandé, c'est quand même de réaliser des choses. Et en fait, on lui a mal demandé. Et donc la première responsabilité, ce que tous les rapports semblent quand même drôlement éluder, elle est d'abord et avant tout chez Open AIÀ la question d'une éventuelle perte de contrôle de l'IA ? Le philosophe élude d'emblée l'hypothèse d'une IA consciente. En revanche," le contrôle de l'intelligence artificielle, il est détenu par une poignée de multimilliardaires dans la Silicon Valleyil y a quelques jours, Elon Musk a félicité sur Twitter le sacre de l'extrême droite en Allemagne"est-ce qu'on n'a pas perdu un certain contrôle, non pas sur l'IA elle-même, mais sur celles et surtout ceux, malheureusement, surtout ceux qui la produisent, qui la conçoivent et qui la vendentIl y a pas mal de penseurs, ou en tout cas de personnes dans la Silicon Valley, qui construisent et modèlent vraiment une nouvelle vision de la société, qui en tout cas n'est très clairement pas progressiste, ça c'est le moins qu'on puisse dire, et qui est pour moi un délitement de nos démocraties et des valeurs qu'on a pu construire ces 2000 dernières annéesLouis de Diesbach n'a aucun doute sur le besoin de freiner le développement de l'intelligence artificielle. Mais il note aussi que les responsabilités se situent à trois niveaux : les utilisateurs, les concepteurs et la société au sens large. Les personnes doivent se rendre compte qu'utiliser l'IA dès que possible et pour tout, renforce le récit selon lequel on aurait besoin de cette technologie pour tout et n'importe quoi. Et puis, au niveau de la société se pose la question : Quelles sont les valeurs sur lesquelles on a envie de construire nos démocraties et nos sociétés ? Si les valeurs qu'on a envie d'avoir, c'est d'aller toujours plus vite, d'accumuler toujours un maximum et de toujours pouvoir tout faire sans effort, alors l'IA est une superbe solution. Mais qu'est-ce qu'on va y laisser ? Je laisserai le soin à chacun et chacune d'y passer sa journée Retrouvez l'essentiel de nos thématiques Vie Pratique, Santé et Bien-être,Sciences et Technologie, Environnement et nature dans cette newsletter au plus proche de vos préoccupations et des tendances du moment.