OpenAI va subventionner la recherche pour la régulation des IA

Antoine Palloteau
| 3 min de lecture

OpeanAI, société à l’origine du fameux chatbot ChatGPT a lancé, le 25 mai dernier, un programme de subvention visant à accélérer la recherche sur la gouvernance de IA. Dans un contexte de développement des IA en plein essor, ce genre d’initiative pourrait aider à définir un cadre légal. 

OpenAI à la recherche de collaborateurs 

La société américaine a annoncé qu’elle devrait s’acquitter de 10 subventions, chacune à hauteur de 10 000$. OpenAI recherche donc 10 équipes, dans le monde entier, qui pourraient travailler sur les questions de gouvernance et de régulation des IA.  

L’idée est d’apporter des valeurs éthiques et démocratiques dans le développement des intelligences artificielles. 

Dans un communiqué publié ce 25 mai, l’entreprise américaine déclare : 

“Les lois codifient les valeurs et les normes afin de réguler les comportements. Au-delà du cadre juridique, l’IA, à l’instar de la société, a besoin de lignes directrices plus complexes et adaptatives pour sa conduite.”

Les subventions iront dans les poches d’équipe de recherche. L’idée, pour OpenAI, est de trouver des collaborateurs qui pourront effectuer des expériences et des évaluations sur leurs IA. Les résultats de ces évaluations permettront à l’entreprise de mieux comprendre les questions éthiques que soulèvent ses produits et par conséquent de prendre des décisions adaptées quant au développement des IA. 

On notera que les subventions sont garanties par la branche à but non-lucratif d’OpenAI. Cela signifie que les résultats des collaborateurs concernant les expériences seront accessibles au public

OpenAI agit dans un contexte général qui cherche à réguler les intelligences artificielles

La pression mise par les régulateurs sur les sociétés d’intelligence artificielle pour la régulation de leur produit ne fait qu’augmenter. 

L’Union Européenne veut réguler les intelligence artificielles et prévoit de faire passer le “EU AI Act” d’ici la fin de l’année 2023. Il s’agirait d’une première mondiale visant à rendre les entreprises d’IA plus transparentes sur la conception et le développement de leurs produits. 

Sam Altman a d’ailleurs récemment rencontré les régulateurs européens avec lesquels il a pu échanger sur les futurs plans de régulation des IA. Le concepteur et patron d’Open AI a dû faire face aux demandes, parfois coriaces, des régulateurs européens. Il déclare : 

“Nous essaierons de nous conformer à la loi, mais si nous n’y parvenons pas, nous cesserons nos activités

Il est clair qu’Altman ne souhaite pas se fermer au marché européen. On pourrait ici voir un lien avec le lancement du programme de subventions dont les résultats permettraient d’approfondir les discussions avec les régulateurs.

Le patron d’OpenAI a aussi échangé avec la justice outre Atlantique lors d’une audience dite historique au Sénat américain. Il semble partager le point de vue des autorités selon lequel les IA ont besoin d’un carde légal clair favorisant un cadre de développement sain et éthique

Il a plaidé en faveur de la création d’une agence fédérale de surveillance ayant le pouvoir de délivrer et de révoquer les licences de développement et a déclarer que les consommateurs ayant subi un préjudice en utilisant l’IA devraient avoir le droit de poursuivre ses développeurs en justice

Comme on peut le comprendre en lisant ce Tweet, le domaine des IA fait aujourd’hui face à beaucoup de questions sans réponse. Si une certaine crainte peut émerger au sein de la population, les gouvernements, eux, visent la mise en place d’une régulation dans un avenir proche. Dans un tel contexte, le programme de subvention – pour de la recherche – lancé par OpenAI devrait pouvoir rendre les débats plus précis, plus exacts en offrant, in fine, la possibilité  d’une régulation juste et d’un développement éthique des intelligences artificielles.  

 

Source : CoinTelegraph