La première intelligence artificielle (IA) à agir en tant que PDG en Europe a été dévoilée par Hunna Technology. La startup de santé basée au Royaume-Uni a combiné l'IA et l'intelligence humaine pour développer le système IndigoVX.

L'inspiration pour ce PDG basé sur une IA supervisée vient de Steve Jobs, qui a déclaré : "Il n'est pas logique d'embaucher des personnes intelligentes pour ensuite leur dire quoi faire. Nous embauchons des personnes intelligentes pour qu'elles puissent nous dire quoi faire."

Hunna Technology, qui utilise l'IA pour tester et dépister des conditions médicales, a testé le système de PDG IA pendant 12 mois pour garantir la sécurité et la conformité légale.

"J'ai démissionné en juillet en tant que PDG car je crois qu'une IA supervisée par des humains peut me surpasser. Elle ne nous a pas déçus", a déclaré Ahmed Lazem, co-fondateur de Hunna Technology.

Une IA en tant que PDG ?

Hunna Technology a rapporté plusieurs succès depuis la promotion d'IndigoVX au poste de PDG, notamment la définition d'une stratégie commerciale réaliste et exécutable, l'identification d'idées de démarrage et la fourniture de recherches clés pour faciliter le déploiement de l'IA médicale de l'entreprise aux Émirats arabes unis.

"Le système IA IndigoVX a constamment dépassé nos attentes - il a soufflé nos esprits", a déclaré le Dr Kais Dukes, directeur technique et co-fondateur de Hunna Technology.

On dit que le PDG IA a un taux de décision réussie de 90 %, identifiant des marchés peu explorés, optimisant l'allocation des ressources et prévoyant les tendances des consommateurs.

Il est important de noter que le PDG IA n'est pas entièrement automatisé. Hunna Technology a expliqué que donner à IndigoVX le titre de PDG ne consiste pas seulement à donner un titre au système, il s'agit de partiellement automatiser le rôle d'un PDG pour guider les opérations générales de l'entreprise.

"Nous pensons qu'il est justifié de donner au système le titre de PDG, car c'est finalement l'algorithme qui prend les décisions, même si l'algorithme a une composante humaine", a déclaré Hunna Technology.

Assurer la responsabilité humaine dans l'IA

Cette annonce fait suite à une réunion "historique" du Conseil de sécurité des Nations unies au cours de laquelle les membres ont discuté de l'IA pour la première fois. La responsabilité de la technologie IA, de l'accès et du contrôle humain responsable ont été mentionnés comme des éléments fondamentaux de son développement.

Le Conseil a montré un vif intérêt pour résoudre les défis existants tout en créant des voies pour suivre et répondre aux dangers futurs.

Le danger demeure quant à savoir jusqu'où l'IA pourrait devenir un "train fou" sans régulation mondiale.

Des personnalités publiques telles que Kamala Harris, Steven Spielberg et le directeur en chef de la FCA, Nikhil Rathi, ont pris position dans le débat sur l'IA. Ils ont cité les craintes de partialité de l'IA, d'éthique mal établie et de risques accrus en matière de cybersécurité comme principales préoccupations. À l'échelle mondiale, il est reconnu que davantage de législation est nécessaire pour un déploiement sûr de l'IA.

À cet égard, les gouvernements du monde entier rédigent des réglementations et des recommandations. Le Livre blanc du Royaume-Uni expose cinq principes clés visant à guider l'approche du pays en matière d'IA, en mettant l'accent sur la création d'un environnement propice au développement de l'IA et sur la gestion des risques potentiels.

L'Acte de l'UE sur l'IA a également précisé que les systèmes d'IA devraient être supervisés par des personnes plutôt que par l'automatisation pour éviter des conséquences néfastes.

Avec le fait que Hunna Technology n'automatise pas complètement IndigoVX, l'aspect de la responsabilité humaine est préservé.