Dario Amodei, l'innovateur éthique et visionnaire derrière Anthropic, l'une des startups d'IA les plus prometteuses

Le succès des entreprises les plus révolutionnaires du monde est inextricablement lié à la vision et à la volonté inébranlable de leurs fondateurs. Par exemple, la façon dont Apple a été façonné par la personnalité et les valeurs de Steve Jobs, ou comment, dans les années 1900, l'industrie automobile a été pratiquement redéfinie par Henry Ford. Ce sont des leaders monumentaux dans des industries monumentales, et nous voyons des figures de ce calibre émerger dans le domaine de l'intelligence artificielle — l'industrie la plus transformatrice de cette décennie.

Dans cet environnement rapide, très peu de noms résonnent aussi profondément que celui de Dario Amodei. De ses débuts en tant que chercheur à Stanford à son rôle pivot chez OpenAI, il a constamment démontré une expertise remarquable et une détermination inébranlable à réaliser sa vision d'un avenir meilleur pour l'humanité.

Cette ambition a donné naissance à Anthropic, une entreprise de recherche en IA valant plusieurs milliards de dollars, dont Amodei est cofondateur et PDG. L'entreprise est déjà célèbre pour Claude, l'un des modèles d'IA fondamentaux les plus puissants, qui rivalise désormais avec des leaders de l'industrie établis comme ChatGPT.

Aujourd'hui, l'entreprise d'Amodei concurrence d'autres géants de la technologie dirigés par des PDG déterminés et influents comme Elon Musk et Sam Altman. Qu'est-ce qui a motivé Dario Amodei à entrer dans cette course à l'IA et à figurer parmi les leaders? Découvrons la logique qui guide sa prise de décision.

Raison 1 — Désir de comprendre l'intelligence en tant que concept

Dario Amodei, co-fondateur et PDG d'Anthropic, lors de l'événement TechCrunch Disrupt 2023
Source: TechCrunch

Le parcours de Dario Amodei vers le poste de PDG de l'une des entreprises les plus importantes dans le domaine de l’intelligence artificielle a commencé avec un objectif ambitieux de comprendre le mystère de l'intelligence. Selon Amodei, la meilleure façon d’aborder cette question est d'adopter une approche interdisciplinaire. Bien qu'il ait toujours été fasciné par l'informatique, ses études ont suivi un chemin différent — Amodei a obtenu un diplôme de physique de premier cycle de l'Université de Stanford avant d'obtenir un doctorat en biophysique à l'Université de Princeton.

I wanted to do something that would have an impact on humanity, and an important component of that would be understanding intelligence. [...] I felt that the best way to study intelligence in those days was to study the human brain.
— Dario Amodei lors d'un podcast avec Nicolai Tangen

Lorsque Amodei a terminé un court programme postdoctoral, les avancées en apprentissage profond artificiel avaient rendu l'IA pertinente pour l'étude de l'intelligence. Son expérience en physique a été indispensable à son succès; bien que la biophysique puisse sembler sans rapport avec l'IA, l'intérêt d’Amodei pour l'intelligence était vraiment une étude de concepts similaires sous différents angles.

L'étude d’Amodei d'une science naturelle lui a apporté plus que des connaissances sur l'IA – elle lui a également appris une perspective qui recherche et accepte des solutions simples à des problèmes complexes. Et cette perspective informe également son approche du recrutement; Anthropic embauche souvent des personnes ayant peu d’expérience en IA mais de capable de voir et de faire la chose la plus simple qui fonctionne. Ils recherchent des personnes ayant le talent et la motivation pour résoudre les mystères de l'univers, car ces qualités sont des prédicteurs de succès bien plus précis que l'expérience dans le domaine de l'IA.

A number of folks we hire are physicists or other natural scientists who have been doing AI for maybe a month or so. We look for the ability to learn, curiosity, and the ability to quickly get to the heart of the matter.
— Dario Amodei lors d'un podcast avec Nicolai Tangen

Raison 2 — Privilégier la qualité à la quantité

Dario Amodei assiste au salon Viva Technology à Paris
Source: Getty Images

La construction de modèles génératifs d'IA puissants nécessite un investissement étonnant, et le soutien qu'Anthropic a reçu de ses investisseurs a contribué à la croissance de l'entreprise. Amazon a investi 4 milliards USD et Google 2 milliards USD. Pourtant, malgré cet investissement, beaucoup considèrent Anthropic comme un outsider dans le domaine, car la société manque encore des ressources de concurrents comme OpenAI et Microsoft.

I’m starting to feel a little bit awkward about calling ourselves the underdogs. But relative to the heavyweights in the field, I think it’s absolutely true.
— Dario Amodei lors d'une interview avec TIME

Malgré cette comparaison, Amodei croit que le simple nombre de financement ne déterminera pas les progrès d'Anthropic. Sa philosophie du “faire plus avec moins” met davantage l'accent sur la qualité des décisions d'ingénierie plutôt que sur les avantages purement computationnels.

Amodei mentionne souvent que le succès des ingénieurs d'Anthropic découle d'une combinaison équilibrée de créativité et de simplicité dans leurs processus de travail. Cette approche encourage les chercheurs à penser en dehors des sentiers battus, en utilisant des techniques innovantes plutôt qu’une approche de force brute. En favorisant un environnement où ces deux aspects sont valorisés, Amodei garantit que les solutions d'Anthropic sont à la fois efficaces et économes en ressources.

Physicists look for simple explanations of things. [At Anthropic,] we go for the simplest thing possible that works.
— Dario Amodei lors d'un podcast avec Nicolai Tangen

Raison 3 — Mentalité d'un leader serviteur

Dario Amodei et Daniela Amodei au Bloomberg Tech Summit
Source: Bloomberg Live

Nombreux sont les grands PDG d'aujourd'hui connus pour aimer la lumière des projecteurs. Elon Musk en est un exemple notable, ainsi que d'autres figures respectées comme Mark Zuckerberg, Richard Branson et Jensen Huang. Dario Amodei, cependant, rompt avec ce moule; il est connu pour garder un profil bas. Lors de ses apparitions publiques, Amodei est toujours concis et spécifique au domaine, et son explication à cela est à la fois simple et profonde.

I don't really like the trend of personalizing companies [...] I want people to think in terms of the nameless, bureaucratic institution and its incentives more than they think in terms of me. Everyone wants a friendly face, but actually, friendly faces can be misleading.
— Dario Amodei lors d'un podcast avec Dwarkesh Patel

De tous les styles de leadership, l'approche d'Amodei ressemble le plus au leadership serviteur, qui privilégie le bien-être et la croissance des membres de l'équipe et de leurs communautés. En tant que PDG, Amodei voit son devoir comme étant de favoriser un environnement collaboratif au sein de l'organisation et d’ajuster le cap stratégique d'Anthropic sans microgérer chaque décision. Comme l'a expliqué Amodei, une approche descendante trop stricte peut entraver l'innovation, alors que son objectif est de “laisser la créativité s'exprimer”.

I’m not the only one who is ultimately responsible for these decisions. The LTBT is designed as the check, the supervisory body [...] This is the way it should be — no one person, no one entity should have too much say over [important AI-related decisions].
— Dario Amodei lors du Logan Bartlett Show

Raison 4 — Vision forte pour une IA constitutionnelle

 Dario Amodei parle des dangers de l'IA lors d'une audition de la sous-commission judiciaire du Sénat sur la vie privée, la technologie et le droit
Source: CNBC Television

Un défi auquel les développeurs d'IA est le fait que les modèles sont aussi biaisés que les ensembles de données sur lesquels ils sont formés. Dario Amodei a été un pionnier non seulement dans la définition des risques catastrophiques posés par l'IA avancée, mais aussi dans les moyens de diriger et de contrôler même les modèles d'IA les plus puissants. Ce désir de créer une IA sûre et éthique est la raison pour laquelle Amodei a fondé Anthropic. Un élément crucial de ce puzzle est le développement d'une IA constitutionnelle.

Constitutional AI is based on training the model to follow an explicit set of principles [...] This makes it easier to control the model and make it safe.
— Dario Amodei lors d'une interview avec le magazine Fortune

Aligner les systèmes d'IA sur les valeurs humaines signifie sécuriser toutes sortes d’avantages qui changent la vie apportés par l'IA, allant des soins de santé à la conservation de l'environnement, en passant par l'éducation, la croissance économique et le bien-être social. C'est vraiment un objectif noble et primordial auquel Dario Amodei travaille sans relâche.

We don’t know what’s going to happen, but [...] let’s pick a place where there’s a problem we think we can help with, and let’s try and make things go a little better than they would have otherwise.
— Dario Amodei lors du podcast du Future of Life Institute

Réflexions finales

Dario Amodei est le PDG d'Anthropic et aussi une figure respectée dans l'industrie. Son entrée dans le secteur de l'IA a été motivée par une profonde fascination pour la nature même de l'intelligence. Aujourd'hui, il s’efforce de mettre à l'échelle les systèmes d'IA tout en garantissant leur sécurité et leur alignement avec les valeurs humaines.

Cette focalisation est désormais au cœur de la mission d'Anthropic, “to ensure transformative AI helps people and society flourish”. Le succès d'Anthropic signifierait que le scénario pessimiste de films comme “Terminator” et “I, Robot”, tant redouté par les sceptiques de l'IA, ne se réalisera jamais. En défendant le développement éthique de l'IA, Amodei façonne l'avenir de la technologie et redéfinit également son rôle dans notre monde, alors qu'il s'efforce de créer un avenir dans lequel l'IA est une force pour le bien.