мне кажется скоро будет edge инференс
я уже рассуждал на то, нужно ли качество для инференс облака hosting.show/alice2k-hosting/trebuetsya-li-inferens-oblaku-rezervirovanie-.html
но так же справедливо заметить, что спрос просит заказать «серверы ближе к какой-то модели»
сами ДЦ где основный файлы модели — США по большей части и они еще не успели сделать свои CDN по всему миру и локальный кеш как делает Гугл к своим сервисам
думаю к 2028 году все кто сейчас продает ИИ по подписке — уже самостоятельно сделают такое и партнерство по миру
но а сейчас что?
вот чувак хочет сервак который быстро работает по связности и не банится тем более
ему можно предложить только европейские ДЦ, да еще и не каждая компания там работает, многие европейские хостеры просто заблокированы их сети в ИИ сервисах
так же взять РФ — которая вообще блокирует зарубеж
получается даже если в РФ кто-то захочет сделать быстрый инференс, ему нужно
1. найти в РФ провайдера или ДЦ который хорошо работает с каким-то зарубежным провайдером
2. тот зарубежный должен хорошо работать с ИИ по связности или находиться по geo рядом
это и называется EDGE не так ли?
получается что есть некий спрос на локальные гео, но только не в привычном его понимании аля cdn, а именно как EDGE GPU или EDGE ИИ
приживется ли такая абривиатура? или слишком мудрено как-то выглядит. как называть сервис который предоставляет локальные ресурсы внутри определенной страны под «инференс кеш»?
но так же справедливо заметить, что спрос просит заказать «серверы ближе к какой-то модели»
сами ДЦ где основный файлы модели — США по большей части и они еще не успели сделать свои CDN по всему миру и локальный кеш как делает Гугл к своим сервисам
думаю к 2028 году все кто сейчас продает ИИ по подписке — уже самостоятельно сделают такое и партнерство по миру
но а сейчас что?
вот чувак хочет сервак который быстро работает по связности и не банится тем более
ему можно предложить только европейские ДЦ, да еще и не каждая компания там работает, многие европейские хостеры просто заблокированы их сети в ИИ сервисах
так же взять РФ — которая вообще блокирует зарубеж
получается даже если в РФ кто-то захочет сделать быстрый инференс, ему нужно
1. найти в РФ провайдера или ДЦ который хорошо работает с каким-то зарубежным провайдером
2. тот зарубежный должен хорошо работать с ИИ по связности или находиться по geo рядом
это и называется EDGE не так ли?
получается что есть некий спрос на локальные гео, но только не в привычном его понимании аля cdn, а именно как EDGE GPU или EDGE ИИ
приживется ли такая абривиатура? или слишком мудрено как-то выглядит. как называть сервис который предоставляет локальные ресурсы внутри определенной страны под «инференс кеш»?
