2023-04-10 17:31:48
Продовжуємо досліджувати нову економіку AI.
В попередніх постах ми розглянули, як формується AI value chain — від заліза і хмарних потужностей, через моделі і до кінцевого продукту.
На кожному з етапів спрощується поріг входження: будь-хто може створити writing tool, використовуючи Open AI API, але навряд чи хтось може створити з нуля конкуренцію для Nvidia. А що з проміжним етапом — моделей?
TechCrunch описує пітчдек AI-research стартапа Anthropic, створеного виходцями з Open AI. Вони піднімають раунд для створення нової AI-моделі, в 10 раз потужнішої за наявні зараз. На це витратять $1 млрд за півтора роки. Всього за наступні два роки планують підняти $5 млрд. Трохи цікавих деталей:
> Anthropic describes the frontier model as a “next-gen algorithm for AI self-teaching,” making reference to an AI training technique it developed called “constitutional AI.” At a high level, constitutional AI seeks to provide a way to align AI with human intentions — letting systems respond to questions and perform tasks using a simple set of guiding principles.
Anthropic estimates its frontier model will require on the order of 10^25 FLOPs, or floating point operations — several orders of magnitude larger than even the biggest models today. Of course, how this translates to computation time depends on the speed and scale of the system doing the computation; Anthropic implies (in the deck) it relies on clusters with “tens of thousands of GPUs.”
> This frontier model could be used to build virtual assistants that can answer emails, perform research and generate art, books and more, some of which we have already gotten a taste of with the likes of GPT-4 and other large language models.
“These models could begin to automate large portions of the economy,” the pitch deck reads. “We believe that companies that train the best 2025/26 models will be too far ahead for anyone to catch up in subsequent cycles.”
> Dario Amodei, the former VP of research at OpenAI, launched Anthropic in 2021 as a public benefit corporation, taking with him a number of OpenAI employees, including OpenAI’s former policy lead Jack Clark. Amodei split from OpenAI after a disagreement over the company’s direction, namely the startup’s increasingly commercial focus.
> Google is also among Anthropic’s investors, having pledged $300 million in Anthropic for a 10% stake in the startup. Under the terms of the deal, Anthropic agreed to make Google Cloud its “preferred cloud provider” with the companies “co-develop[ing] AI computing systems.”
Стратегічний хід Google — вони інвестують в перспективного гравця на рівні моделей і водночас гарантують масштабного клієнта для своїх хмарних сервісів, тобто захоплюють цінність відразу на кількох рівнях AI value chain.
2.4K viewsAndrii Brodetskyi, edited 14:31
Т
