в конечном счёте всё равно потратила «миллиарды долларов» на дорогие процессоры от Nvidia
Ключевая причина, по которой компания Цукерберга отстаёт в сфере ИИ-разработок, — это её непоследовательность в выборе процессоров, рассказали источники агентства. Самыми распространёнными, а также универсальными считаются графические процессоры (GPU). Однако до 95% рынка контролирует Nvidia, поэтому высоки как цены на чипы, так и зависимость заказчиков от одного поставщика.
Чтобы не раздувать бюджеты, Meta использовала CPU — центральные процессоры: на них десятилетиями работали дата-центры, но с задачами, которые нужны для обучения и запуска ИИ-моделей, они справляются «плохо», поясняет Reuters.
По словам двух источников, параллельно компания использовала чипы собственной разработки, но только для этапов, когда уже обученные на данных нейросети выносят суждения и генерируют ответы (эту задачу ещё называют inference).
Чтобы их разместить, пришлось переоборудовать дата-центры, повысить пропускную способность сети в 24-32 раза и установить системы жидкостного охлаждения. Затраты на «перестройку» увеличили квартальные капитальные расходы примерно на $4 млрд и совпали с кризисом на ИТ-рынке, из-за которого Meta* уволила больше 10 тысяч человек в 2022 году.
пока искал эту новость — забыл о чем хотел вообще написать
но вдруг через пару часов снова вспомнил
короче я хотел написать, что когда-то была еще новость и другая — что facebook покупает «среднее по мощности», но «оптимальное по цене CPU» — и типо никогда не покупают новинки рынка и новинки из мощностей. может найду потом эту новость или этот перевод с хабра — и еще допишу
к чему это я
а к тому, что 2 разных подхода — покупать чисто топ процессоры или покупать не топ.
и вот к чему они привели
в хостинге я тоже размышлял когда-то на эту тему, на примере какого-то ДЦ РФ
