Mais les experts ont exhorté à se concentrer sur les risques et les dangers actuels de l'IA, tels que sa capacité à reproduire des informations biaisées, ou discriminer certains groupes sociaux.
En effet, les données publiques utilisées pour entraîner de nombreux systèmes d’IA peuvent refléter des préjugés sociétaux existants tels que le sexisme ou le racisme.
Et même si les outils d’IA deviennent de plus en plus performants, ils restent sujets aux erreurs.
Les systèmes d’IA générative sont connus pour leur capacité à « halluciner » et à affirmer des mensonges comme des faits, voire parfois à inventer des sources d’informations inexactes.
Début 2025, Apple a retiré une fonctionnalité d'IA après cela. résumé incorrect des notifications de l'application d'actualitéset Google a également été critiqué pour inexactitudes produites par ses aperçus de recherche IA.
L'utilisation de l'IA dans les écoles et sur les lieux de travail suscite des inquiétudes, les étudiants utilisant des outils d'IA pour « tricher » lors de leurs devoirs, être accusé à tort de l'utiliser et les employés l'introduisent clandestinement au travail.
Mais les écrivains, musiciens et artistes ont également repoussé contre la technologie pour des raisons éthiques.
Beaucoup ont publié des déclarations ou signé des lettres ouvertes accusant les développeurs d’IA d’utiliser leur travail pour former des systèmes sans consentement ni compensation.
Des milliers de créateurs – dont l'auteur-compositeur-interprète d'Abba Björn Ulvaeus, les écrivains Ian Rankin et Joanne Harris et l'actrice Julianne Moore – signé une déclaration, externe en octobre 2024, qualifiant l’IA de « menace majeure et injuste » pour leurs moyens de subsistance.