L'IA cette semaine : réponses inventées, médecins IA, une école d'IA gratuite
Par Andrew Miller ·
Cette semaine : pourquoi votre chatbot invente des choses à dessein, un panel de médecins IA qui vient de passer l'évaluation par les pairs, et une école gratuite d'OpenAI qui vous remet un badge quand vous réussissez.
Les réponses inventées de votre IA étaient au départ une fonctionnalité
Vous demandez une recommandation de livre à un chatbot, elle paraît parfaite, puis vous cherchez le titre et il n'existe pas.
Il est tentant d'y voir un bug que la prochaine mise à jour corrigera. Benjamin Lindquist, historien au MIT, en fait plutôt remonter l'origine aux années 1950, quand des chercheurs introduisaient délibérément du hasard dans leurs machines. Un ordinateur qui ne donnait que la réponse attendue n'impressionnait personne ; ils en voulaient un capable de les surprendre. Beaucoup des premiers réseaux de neurones ont été conçus par des psychologues comme Frank Rosenblatt, qui espéraient que les erreurs étranges des machines montreraient comment notre propre cerveau produit des idées.
Aujourd'hui, vous utilisez l'IA parce que vous attendez d'elle qu'elle ait raison, et les entreprises d'IA s'efforcent de l'empêcher de dire quoi que ce soit d'étrange. Lindquist parle d'un « ponçage » de l'étrangeté, et soutient que celle-ci est toujours là en dessous, simplement réprimée. Son article est paru dans la revue Past & Present.
Notre avis : le penchant qui vous souffle une idée surprenante et celui qui invente un livre sont sans doute le même. Laissez un chatbot divaguer quand vous cherchez des idées. Quand vous allez agir sur la base d'un fait, demandez la source et ouvrez-la.
Un panel de médecins IA face aux cas les plus difficiles de la médecine
Quand un symptôme ne correspond à rien d'évident, obtenir une réponse peut prendre des mois, chaque spécialiste écartant une piste avant de vous envoyer au suivant.
Le Diagnostic Orchestrator (MAI-DxO) de Microsoft met toute une salle sur le cas. Il fait travailler un panel de médecins virtuels : chacun propose ce qui pourrait ne pas aller et la question ou l'examen à faire ensuite, et ils débattent sur plusieurs tours à mesure que les résultats arrivent. Comme un vrai médecin, il part d'un bref résumé et doit demander chaque détail supplémentaire.
Sur 304 cas difficiles tirés du New England Journal of Medicine, il a posé le bon diagnostic dans 83 % des cas. Des médecins généralistes ont obtenu 22 % de mémoire et 36 % quand ils pouvaient faire des recherches. Sur des cas plus ordinaires de service des urgences, il a obtenu 80 % contre 47 % pour les médecins, souvent avec moins d'examens. L'étude est désormais publiée dans Science.
Le hic : il s'agissait de dossiers écrits, pas de patients en consultation, et la comparaison portait sur des généralistes plutôt que sur des spécialistes ou une équipe hospitalière complète. Tous les auteurs travaillent pour Microsoft. L'étape suivante compte plus que le score : une étude au Beth Israel Deaconess Medical Center de Boston, où les patients parlent directement au système, comparé au jugement des médecins eux-mêmes.
Notre avis : les cas difficiles traînent parce qu'un médecin n'a qu'un nombre limité d'heures. Un panel comme celui-ci est surtout utile comme le deuxième avis que votre médecin n'a jamais eu le temps de demander, la décision lui revenant toujours.
Une école gratuite pour progresser en IA
Apprendre quelque chose de nouveau implique généralement une facture et un emploi du temps qui n'est pas le vôtre.
OpenAI Academy n'impose ni l'un ni l'autre. Les cours sont gratuits et à suivre à votre rythme pour toute personne disposant d'un compte ChatGPT, et en septembre OpenAI l'a étendue à quatre parcours et 14 cours : le travail au quotidien, le développement avec Codex et l'API, le pilotage de l'adoption de l'IA, et l'enseignement et les études. La plupart des cours durent entre une demi-heure et trois heures. Réussissez le test de fin de cours avec 80 % ou plus et vous obtenez un badge.
Le hic : OpenAI dit clairement que les badges ne sont pas des certifications. Ils montrent que vous avez terminé un cours, pas qu'un employeur doit vous considérer comme qualifié.
Notre avis : utiliser l'IA tous les jours vous apprend ce qui marche pour les tâches que vous lui confiez déjà. Un cours vous montre les tâches que vous n'avez jamais pensé à essayer, et c'est là que se cachent souvent les plus grands gains de temps. Le cours d'initiation de 70 minutes est un moyen peu coûteux de savoir quel type d'utilisateur vous êtes.