Le Long-Term Benefit Trust d'Anthropic, l'instance chargée d'éviter que la mission d'intérêt public de l'entreprise ne soit absorbée par la pression commerciale, accueille un nouveau membre. Christopher Stubbs, physicien expérimental et doyen des sciences de Harvard de 2018 à 2024, arrive au moment où le rôle du Trust va être éprouvé par une introduction en Bourse.
Stubbs apporte un parcours de scientifique plutôt que de technologue. En 1998, au sein de la High-Z Supernova Search Team, il a contribué à découvrir que l'expansion de l'univers s'accélère, des travaux ensuite récompensés par le Breakthrough Prize in Fundamental Physics. Il a été le premier scientifique de projet de ce qui est aujourd'hui l'observatoire Vera C. Rubin, qui a lancé en juin un relevé de 10 ans du ciel austral. Il est membre de JASON, le groupe indépendant de scientifiques qui conseille le gouvernement américain en matière de défense et de technologie depuis 1960, et a conseillé sur la sécurité nationale et le contrôle des armements. Il a récemment écrit sur la manière de garder la recherche assistée par l'IA reproductible quand les modèles peuvent donner des réponses différentes à la même question, et dit utiliser des outils d'IA chaque jour dans ses recherches.
Il rejoint Neil Buddy Shah, président du Trust, l'expert en sécurité nationale Richard Fontaine et l'ancien président de la Réserve fédérale Ben Bernanke, et en est le premier physicien. Anthropic précise que les membres sont indépendants de la direction et des investisseurs.
Ce sont les pouvoirs du Trust qui donnent du poids à cette nomination. Selon Anthropic, il peut nommer la majorité du conseil d'administration, et ses membres conseillent le conseil et la direction sur les décisions majeures, en particulier celles qui touchent aux risques et aux effets sociaux de l'IA. Le récent dossier S-1 d'Anthropic confirme que le Trust élira la majorité du conseil après la cotation, à côté d'une action unique qui donne aux sept cofondateurs 50,1 % des voix. La même semaine, Anthropic a publié son premier Public Benefit Report, avec l'évaluation par le Trust des progrès réalisés sur cinq piliers de sa charte, et a promis des actions à un nouveau fonds d'intérêt public.
Un scientifique qui a écrit sur la reproductibilité est un choix judicieux pour une entreprise dont les modèles servent de plus en plus à la recherche. Mais la valeur du Trust se jugera à l'usage de son pouvoir, non à la qualité de ses membres. L'annonce décrit des conseils et des nominations, pas un seul cas où le Trust aurait désavoué la direction, et l'arrivée d'actionnaires du public accentuera la pression sur le conseil qu'il supervise. La manière dont il y fera face, et la transparence avec laquelle il rendra compte de ses désaccords, sont le vrai test.