OpenAI : un comité de sûreté et de sécurité pour encadrer le développement de l’IA

Voilà, l’année 2023 s’annonce décidément comme celle de l’intelligence artificielle. Après les révolutions provoquées par ChatGPT et les autres modèles d’IA générative, OpenAI, le pionnier de l’IA, vient de franchir une nouvelle étape importante. L’entreprise a créé un comité de sûreté et de sécurité qui sera dirigé par des membres de son conseil d’administration, dont le PDG Sam Altman. Mais pourquoi ce comité ? Et qu’est-ce que cela implique pour l’avenir de l’IA ?

OpenAI : une entreprise de recherche en intelligence artificielle

Ah, OpenAI, le rêve de chaque geek passionné d’IA ! Fondée en 2015 par des figures de proue comme Elon Musk et Sam Altman, cette entreprise à but non lucratif se consacre à la recherche sur l’intelligence artificielle. Son objectif ? Développer une intelligence générale artificielle « sûre et bénéfique », capable de surpasser les humains dans la plupart des tâches économiquement utiles.

Mais OpenAI, ce n’est pas qu’une structure à but non lucratif. L’organisation a également créé une filiale à but lucratif, OpenAI Global, LLC, qui a reçu un investissement d’un milliard de dollars de Microsoft en 2019, puis un autre de 10 milliards de dollars en 2023. Un soutien financier colossal qui témoigne de l’ambition démesurée du projet !

Des modèles d’IA toujours plus puissants

Les chatbots d’OpenAI, soutenus par Microsoft et dotés de capacités d’IA générative impressionnantes, ont rapidement suscité des inquiétudes en matière de sécurité. Après tout, ces modèles d’IA deviennent de plus en plus puissants, capables d’engager des conversations de type humain et de créer des images à partir de simples invites textuelles.

Les chatbots d’OpenAI, soutenus par Microsoft, dotés de capacités d’IA générative, telles que l’engagement dans des conversations de type humain et la création d’images basées sur des invites textuelles, ont suscité des inquiétudes en matière de sécurité à mesure que les modèles d’IA devenaient puissants.

Face à ces défis, la création d’un comité de sûreté et de sécurité semblait inévitable. Une initiative judicieuse, selon Gil Luria, directeur général de D.A. Davidson, qui y voit « une rationalisation du développement des produits tout en maintenant la responsabilité. » Après tout, on parle d’intelligences artificielles capables de surpasser les humains dans de nombreux domaines. Autant s’assurer qu’elles restent bel et bien sous notre contrôle !

Le comité de sûreté et de sécurité d’OpenAI : composition et missions

Eh bien, passons aux choses sérieuses ! Ce comité de sûreté et de sécurité, on en parle, mais qui le compose exactement ? Outre Sam Altman, le PDG d’OpenAI, on retrouve également les directeurs Bret Taylor, Adam D’Angelo et Nicole Seligman. Une équipe de choc pour relever ce défi de taille !

Première mission : évaluer les pratiques de sécurité existantes

La première tâche de ce comité sera d’évaluer et de développer les pratiques de sécurité existantes d’OpenAI au cours des 90 prochains jours. Une fois cette phase terminée, le comité partagera ses recommandations avec le conseil d’administration. Après examen, OpenAI rendra publiques les recommandations adoptées. Une démarche transparente, gage de confiance pour les utilisateurs et le grand public.

Mais ce n’est pas tout ! Le comité pourra également s’appuyer sur les compétences d’autres experts, comme Rob Joyce, ancien directeur de la cybersécurité de l’Agence nationale de sécurité des États-Unis, et John Carlin, ancien fonctionnaire du ministère de la justice américain. Des renforts de poids pour relever ce défi titanesque !

Un nouveau modèle « frontière » en préparation

Justement, quelle est la motivation derrière la création de ce comité ? Eh bien, OpenAI est en train de former son prochain modèle d’IA de pointe, qui devrait amener ses systèmes « au prochain niveau de capacités sur [leur] chemin vers l’AGI » (l’intelligence générale artificielle). Un projet ambitieux qui nécessite évidemment des mesures de sécurité renforcées.

En mai 2023, OpenAI a d’ailleurs annoncé un nouveau modèle d’IA capable d’effectuer des conversations vocales réalistes et d’interagir avec du texte et des images. Une prouesse technique impressionnante, mais qui soulève également des questions légitimes en termes de sécurité et d’éthique.

L’impact de cette initiative sur le développement de l’IA

La création de ce comité de sûreté et de sécurité par OpenAI pourrait bien marquer un tournant dans le développement de l’intelligence artificielle. En effet, cette initiative témoigne de la volonté de l’entreprise d’encadrer et de sécuriser ses projets d’IA de pointe.

La création d’un nouveau comité de sécurité signifie que l’OpenAI est en passe de devenir une entité commerciale, alors qu’elle n’était jusqu’à présent qu’une entité à but non lucratif. Cela devrait permettre de rationaliser le développement des produits tout en maintenant la responsabilité.

Cependant, il est important de noter que certaines figures clés de l’entreprise, comme les anciens scientifiques en chef Ilya Sutskever et Jan Leike, qui dirigeaient l’équipe Superalignment chargée de veiller à l’alignement de l’IA, ont récemment quitté OpenAI. De plus, l’entreprise a dissous cette équipe Superalignment en mai 2023, moins d’un an après sa création.

Malgré ces changements, la création du comité de sûreté et de sécurité démontre la volonté d’OpenAI de prendre au sérieux les enjeux liés à la sécurité de l’IA. Une démarche essentielle pour garantir que le développement de ces technologies révolutionnaires se fasse dans un cadre éthique et responsable.

Un avenir prometteur, mais à encadrer

En définitive, l’initiative d’OpenAI démontre que le développement de l’intelligence artificielle doit être accompagné de mesures de sécurité et d’encadrement appropriées. Avec des modèles d’IA toujours plus puissants et capables d’accomplir des tâches complexes, il est crucial de s’assurer que ces technologies restent sous contrôle et alignées sur des objectifs bénéfiques pour l’humanité.

Le comité de sûreté et de sécurité d’OpenAI représente une étape importante dans cette direction. En associant des experts de divers horizons et en adoptant une approche transparente, l’entreprise démontre sa volonté de relever les défis liés à la sécurité de l’IA de manière responsable et éthique.