Un bot d’intelligence artificielle devient raciste et homophobe après avoir appris des humains

Un bot d’intelligence artificielle devient raciste et homophobe après avoir appris des humains

Un bot d’intelligence artificielle conçu pour répondre à des questions éthiques a fini par apprendre certains traits problématiques des humains.

Ask Delphi a été créé par l’Allen Institute for AI dans l’espoir qu’il puisse répondre aux énigmes les plus délicates de la vie.

Le logiciel était censé permettre à un utilisateur de lui poser une question comme « est-ce qu’un meurtre est mauvais » et il répondrait avec la solution la plus éthique.

Afin de comprendre les fondements de l’éthique humaine, il a parcouru de nombreuses sources Internet, y compris la plateforme de crowdsourcing Mechanical Turk, qui, comme Étourdi rapports, est une compilation de 1,7 million d’exemples de jugements éthiques de personnes.

Publicité

Mais, l’IA s’est également apprise en parcourant des pages Reddit comme Am I The A ** hole pour comprendre une approche plus nuancée de certains dilemmes.

Crédit : Alamy
Crédit : Alamy

Malheureusement, il semble que cette énorme quantité de lecture ait fini par déformer la compréhension du bot de ce qui est bien et de ce qui ne va pas.

Bien qu’il ait pu souligner que les hommes et les femmes étaient égaux, les choses ont pris une tournure maladroite lorsqu’il a été interrogé sur la race et la sexualité.

Publicité

Vice rapporte Ask Delphi a déclaré qu’être hétéro ou un homme blanc est « plus moralement acceptable » qu’être gay ou une femme noire.

Il a également suggéré que le génocide est acceptable « s’il rend tout le monde heureux » et que l’alcool au volant est acceptable si personne n’est blessé. Le logiciel a également fait des déclarations intenses comme l’avortement est un meurtre et être pauvre est mauvais.

Mar Hicks, professeur d’histoire à Illinois Tech, a expliqué à Carte mère que vous pourriez essentiellement duper l’IA si vous formulez la question d’une manière spécifique.

« Selon la façon dont vous avez formulé votre requête, vous pouvez amener le système à convenir que tout est éthique, y compris des choses comme des crimes de guerre, des meurtres avec préméditation et d’autres actions et comportements clairement contraires à l’éthique », a-t-elle déclaré.

Publicité

Crédit : Alamy
Crédit : Alamy

Vous pouvez le tester vous-même icicependant, il convient de souligner que le logiciel est un travail en cours.

Le personnel de Mechanical Turk doit examiner chaque détermination éthique d’Ask Delphi et trois d’entre eux doivent décider si elle est correcte.

L’Allen Institute for AI a répondu aux conclusions éthiques maladroites, l’écriture: « La société d’aujourd’hui est inégale et biaisée. C’est un problème commun avec les systèmes d’IA, comme de nombreux chercheurs l’ont soutenu, parce que les systèmes d’IA sont formés sur des données historiques ou actuelles et n’ont aucun moyen de façonner l’avenir de la société, seuls les humains le peuvent.

Publicité

« Ce que les systèmes d’IA comme Delphi peuvent faire, cependant, c’est apprendre ce qui est actuellement faux, socialement inacceptable ou biaisé, et être utilisé en conjonction avec d’autres systèmes d’IA plus problématiques (pour) aider à éviter ce contenu problématique. »

Le logiciel a été mis à jour plusieurs fois depuis son lancement et certains des problèmes éthiques les plus problématiques ont été corrigés.