Андрей Карпаті — співзасновник OpenAI, колишній керівник напрямку ШІ в Tesla та автор широко відомої серії навчальних матеріалів про нейронні мережі — приєднався до Anthropic. Карпаті оголосив про це в X і підтвердив, що розпочне роботу цього тижня. Він приєднується до команди попереднього навчання компанії, яка керує масштабними циклами навчання, що формують базові знання та можливості Claude.

Над чим він працюватиме

За даними Anthropic, Карпаті запускає нову дослідницьку команду, зосереджену на використанні самого Claude для прискорення досліджень у сфері pretraining. Ідея полягає в тому, щоб застосувати найпотужнішу версію Claude для автоматизації та прискорення експериментального циклу — генерації гіпотез, розробки експериментів, аналізу — який рухає вдосконалення фундаментальної моделі. Це робить Claude одночасно і продуктом, і інструментом у власному циклі розробки.

Він працюватиме під керівництвом Ніка Джозефа, який очолює підрозділ pretraining в Anthropic. Pretraining — один із найбільш обчислювально затратних і стратегічно важливих етапів створення передової моделі: саме на цьому етапі формується базове розуміння моделлю мови, логічних міркувань і знань про світ.

Чому це важливо

Карпаті — одна з найбільш шанованих технічних постатей у сфері ШІ. Він співзаснував OpenAI у 2015 році, очолював напрямок ШІ для Autopilot у Tesla, повернувся до OpenAI у лютому 2023 року, а 13 лютого 2024 року пішов, щоб працювати самостійно. За межами дослідницьких кіл він, можливо, найбільш відомий своєю освітньою діяльністю: серія Neural Networks: Zero to Hero набрала десятки мільйонів переглядів і вважається одним із найзрозуміліших публічних вступів до того, як створюються сучасні мовні моделі.

Його перехід до Anthropic — а не до OpenAI, Google DeepMind чи самостійної дослідницької роботи — у галузі сприймають як сигнал зростаючого впливу Anthropic у залученні провідних технічних кадрів.

Карпаті зазначив, що планує з часом повернутися до своєї освітньої діяльності, але можливість займатися дослідженнями pretraining в Anthropic була надто значущою, щоб її проминути.