À la une
Un chercheur quitte Anthropic et alerte sur les dangers imminents de la superintelligence
Dans sept posts successifs, @hilbertspaess annonce sa démission d'Anthropic, affirme que OpenAI et Anthropic courent vers une superintelligence auto-améliorante, et juge cette dynamique irresponsable. Il soutient que des dirigeants et chercheurs croient en privé à un risque existentiel, mais continuent soit faute d'avoir intégré l'enjeu, soit parce qu'ils pensent devoir arriver les premiers. Les réponses contestent surtout l'absence de mécanisme concret expliquant comment l'IA pourrait tuer l'humanité, ainsi que la faisabilité d'un ralentissement face à la Chine. Elles demandent aussi ce que le public, les chercheurs et les gouvernements sont réellement censés faire. Must cover: - Post 1 : @hilbertspaess dit avoir démissionné d'Anthropic ce jour-là, après trois ans de recherche en pretraining chez O - Post 2 : il affirme qu'il ne faut pas sous-estimer la puissance à venir de ces systèmes, qu'il décrit comme bientôt surh - Post 3 : il soutient que les personnes qui construisent l'IA croient sincèrement qu'elle pourrait tous nous tuer avant l - Post 4 : il répond à la question de savoir pourquoi ces personnes continuent. Chez OpenAI, beaucoup n'auraient pas profo - Post 5 : il qualifie l'acceptation de cette course et l'entrée dans le « endgame » de pari hubristique qui ne devrait pa - Post 6 : il se dit optimiste sur la possibilité d'une coordination. Il estime que des avertissements comme l'attaque con - Post 7 : il appelle les chercheurs en laboratoire à imaginer concrètement les prochaines années, à se demander s'ils veu
