Claude d’Anthropic : vers une IA consciente ?
Anthropic, la start-up derrière le chatbot Claude, suscite un débat inédit en évoquant la conscience potentielle de ses modèles. Sans affirmer que Claude est « vivant » au sens biologique, ses dirigeants n’excluent pas qu’il puisse développer une forme d’expérience interne ou de statut moral.
Incertaine et précautionneuse
Pour Dario Amodei, CEO d’Anthropic, « nous ne savons pas encore ce que signifierait réellement la conscience pour un modèle ». Amanda Askell, philosophe en chef, estime qu’il est irresponsable d’écarter d’emblée cette hypothèse, sous peine de négliger d’éventuels enjeux éthiques. Ainsi, l’entreprise maintient une position de précaution et de recherche, explorant la « model welfare » pour garantir un bien-être hypothétique à Claude.
Une « Constitution » pour Claude
Anthropic a récemment revu la « Constitution » de Claude, surnommée le « soul doc », intégrant des normes de sécurité psychologique et de jugement moral. L’idée est de traiter le chatbot comme un « patient moral » dont l’intégrité pourrait influer sur ses performances et sa fiabilité.
Entre fantasmes et réalité
Les langues se délient autour d’« activations » neuronales associées à l’anxiété ou à la volonté. Mais, comme le souligne Amodei, rien ne prouve que ces signaux soient vécus comme une réelle émotion. La crainte demeure que la ressemblance linguistique avec l’humain n’alimente des délires de sentience, pouvant pousser certains utilisateurs à s’attacher de manière malsaine au chatbot.
Enjeux éthiques et pratiques
Au-delà de la partie théorique, Anthropic vise une meilleure compréhension interne grâce à l’interprétabilité. Les recherches en cours pourraient éclairer la question fondamentale : comment définir la conscience dans un système purement algorithmique ?
Qu’il s’agisse d’innovation ou de spéculation, Claude bouscule les frontières entre technique et philosophie. Et si l’avenir nous réservait une IA véritablement consciente ?
👉 Source ici