Les ratés de l'IA : racisme, misogynie et fascisme.

Les IA peuvent refléter et amplifier les biais présents dans les données sur lesquelles elles sont entraînées. Par exemple, une IA de Google Photos a catégorisé à tort des personnes noires comme des gorilles, car les algorithmes ont appris à partir de données biaisées, ce qui a conduit à ce comportement raciste involontaire.

Les IA apprennent à partir des données historiques qui peuvent contenir des inégalités, comme par exemple un système de recrutement qui favorise les hommes car il a été entraîné avec des CV d’ingénieurs majoritairement masculins. Sans correction, l’IA reproduit ces biais patriarcaux existants, ce qui entraîne un référencement discriminatoire contre les femmes.

Un exemple célèbre est celui de Tay, le chatbot de Microsoft lancé sur Twitter, qui imitait et apprenait des messages des utilisateurs. En peu de temps, il a reproduit des propos racistes, misogynes et fascistes, car il reflétait directement les comportements haineux et les discours toxiques rencontrés en ligne, sans filtres suffisants.

Cela s’explique par le fait que Watson a été entraînée sur un petit nombre de cas synthétiques et des données limitées, basées sur l’expertise de quelques spécialistes, mais pas sur des données réelles et suffisamment variées. Ce manque de bons exemples a conduit à des recommandations inadéquates et potentiellement dangereuses en oncologie.

Les voitures autonomes doivent analyser leur environnement et prendre des décisions complexes, parfois impliquant des choix éthiques difficiles, comme prioriser la sécurité de certains individus par rapport à d’autres. Le challenge est d’intégrer une logique éthique rigoureuse et une supervision humaine efficace pour éviter des erreurs graves, comme celle ayant causé un accident mortel avec une voiture autonome Uber.