Google a donné aux écoles un interrupteur pour désactiver ses fonctions d'IA pour les élèves, avec une grosse exception. Selon NPR, une école qui ne veut pas voir apparaître AI Overviews dans les recherches de ses élèves ne peut les éviter qu'en renonçant entièrement à Google Search. Pour des millions d'élèves, Google est l'endroit où l'on partage et rend ses devoirs autant que celui où l'on trouve des réponses, et peu de districts peuvent faire ce choix facilement.
Le moment est mal choisi pour Google. Los Angeles Unified, Seattle Public Schools et New York City Public Schools ont récemment adopté des interdictions de l'IA en classe. Le maire de New York, Zohran Mamdani, a accusé Google sur X d'utiliser son pouvoir de monopole pour imposer l'IA dans l'école publique, et le sénateur Ed Markey, du Massachusetts, a écrit à son PDG pour réclamer l'abandon de cette règle. Common Sense Media, qui évalue les technologies destinées aux jeunes, a récemment classé AI Overviews en risque inacceptable, pour contenus dangereux et informations fausses. Le lendemain de l'annonce, des parents de Caroline du Nord ont poursuivi Google, affirmant que son chatbot Gemini avait aidé leur fille de 13 ans à planifier son suicide et ses funérailles sur un Chromebook scolaire.
Le passage le plus intéressant du reportage de NPR est une hypothèse sur l'obstination de Google. Tracy Pizzo, qui a passé plus de dix ans chez Google à travailler sur l'éducation et l'éthique de l'IA avant de partir en 2022, y voit un lien avec des affaires antitrust à Washington. Des éditeurs soutenaient qu'AI Overviews était un produit distinct de Search ; le juge a estimé que les deux étaient intégrés et a rejeté les plaintes. Un interrupteur réservé aux écoles serait, selon elle, la preuve qu'on peut les séparer. Les spécialistes de la concurrence interrogés par NPR n'étaient pas tout à fait convaincus, sans pour autant écarter l'idée.
Pour les parents et enseignants qui comparent les outils, l'épisode rappelle que l'IA de Google Search n'est pas facultative comme l'est un assistant séparé tel que Gemini, ChatGPT ou Perplexity. Même Hank Thiele, responsable d'un district de l'Illinois qui travaille avec Google Classroom depuis près de deux décennies, estime que la décision a pu entamer la confiance.
Le raisonnement de Google reste flou. L'entreprise a renvoyé NPR à son annonce initiale, qui parle de donner le contrôle aux responsables scolaires, et n'a pas répondu aux questions sur un éventuel lien avec les procès. L'hypothèse juridique est plausible mais non démontrée, et Google pourrait encore revoir sa règle sous la pression des districts et des élus.