требуется ли инференс облаку резервирование ?

как мы уже знаем, сейчас клиентами дата-центров становятся алгоритмы, а не люди
hosting.show/alice2k-hosting/mozhno-li-schitat-chto-seychas-klientam-oblakov-vmesto-lyudey-stali-algoritmy-.html
hosting.show/alice2k-hosting/dumayu-aktualno-dobavlyat-v-mire-hostinga-esche-professiyu-testirovschik-prilozheniy-dlya-serverov-i-oblakov.html
hosting.show/alice2k-hosting/400-gigov-na-telegu.html

поэтому вопрос о отказоустойчивости можно задать «по новому»

запускать ML модели на даче? но на крутейшем оборудовании
или в сертифицированном цоде?
есть ли разница?

ML это ведь сервис который можно включить и выключить
это скорее как RDP для клиента или прерываемая виртуалка

конечно если модель постоянно обучается ей нужен аптайм
но если это прослойка и лишь средство общения с клиентскими задачами — даже если она сгорит вместе с данными, можно ее заново запустить

мне кажется под ML идеально заходят любые ДЦ «пока не сгорят»
а т.к. алгоритмы побеждают людей, то возможно реально отказоустойчивые ДЦ станут нужны еще меньшему числу клиентов

почему в этом случае CPU превосходит GPU ?

помните я писал, что пора делать новую профессию
hosting.show/alice2k-hosting/mozhno-li-schitat-chto-seychas-klientam-oblakov-vmesto-lyudey-stali-algoritmy-.html

так вот, почему эти люди НЕ ПОКУПАЮТ GPU облака?
казалось бы ПОЧЕМУ БЛЯТЬ
нахуя тебе процессоры когда куча GPU доступно

и вот, я подумал
что скорее всего в ИИ отрасли есть такой же тип людей, как и в хостинг отрасли
который просто научился что-то делать и научился зарабатывать — в 1 человека и больше он не умеет, ОН ПРОСТО НЕ УМЕЕТ РАБОТАТЬ С GPU — поэтому и нужна новая профессия

допустим вот в хостинге чтобы миллиард оборота сделать на реселлинге — 3 чела достаточно
допустим чтобы заработать миллион прибыли достаточно одной дачи и — 1 человека
тд тд
так вот и с ИИ отраслью тоже самое — одиночки блять ходят по рынку и скупают процессоры, просто потому что ДРУГОГО они не умеют и у них нет команды и разнообразия умений

Пробуем сделать GPU вирталки

Вчера купили сервер


Но он завис
Я спецом не стал писать тикет
И где-то ночью только он активировался, часов 10 короче заняла активация

А сегодня купил сеть
Там у них что мне не нравится — КУЧА ЛОКАЦИЙ
И сетки можно купить только на локацию.
В итоге дешевле всего покупать сетку на 256 — но не факт что дедики будут в этой локации всегда.

Ну и еще на сервер только 4 IP добавляется например
Итого — тоже ограничения как в ОВХ.
Значит минимальная ВМ может быть только на 16 озу, а не на 8 озу.


По результатам теста потом напишу