Нові бізнес-моделі за боротьбою за обчислювальну потужність

Хвиля «варіння еліксирів» великих моделей пройде, але обчислювальна потужність стає новою бізнес-моделлю. Постачальники обчислювальної потужності повинні заздалегідь підготуватися та вчасно змінити курс.

Нещодавно дослідники використали 40-річні дані про погоду з усього світу, використовуючи 200 графічних процесорів для попереднього навчання, і за приблизно 2 місяці тренували метеорологічну велику модель з обсягом параметрів у десятки мільйонів. Відповідно до розрахунків, за одну GPU 7.8 юанів/годину, вартість навчання цієї моделі може перевищити 2 мільйони юанів. А якщо мова йде про навчання загальної великої моделі, вартість може зрости в сто разів.

Наразі в Китаї вже понад 100 великих моделей з масштабом 1 мільярд параметрів. Проте, галузь, що рине у створення великих моделей, стикається з проблемою дефіциту висококласних графічних процесорів. Високі витрати на обчислювальну потужність, відсутність обчислювальної потужності та фінансування стали найочевиднішими проблемами, з якими стикається галузь.

Брак висококласних GPU є невирішеною проблемою у всій галузі. У пікові часи ціна на одну A100 сягала 200-300 тисяч юанів, а місячна орендна плата за один сервер A100 також зросла до 50-70 тисяч юанів/місяць. Навіть незважаючи на це, висока ціна все ще може не гарантувати отримання чіпів.

Конкуренція на ринку великих моделей є жорсткою, без інвестицій у десятки мільярдів важко продовжувати розробку великих моделей. Деякі підприємці стверджують, що без підтримки у сотні мільярдів ця дорога буде важкою. З переходом ринку від бурхливого до раціонального, компанії також будуть контролювати витрати та коригувати стратегії відповідно до змін у прогнозах.

Стикаючись із браком обчислювальної потужності, компанії вжили різних заходів реагування:

1. Використання даних вищої якості для підвищення ефективності навчання
2. Покращення інфраструктурних можливостей для стабільної роботи понад тисячу калорій
3. Оптимізація обчислювальної потужності карт ресурсів
4. Перехід від архітектури хмарних обчислень до архітектури суперкомп'ютерів
5. Використання вітчизняних платформ замість GPU від NVIDIA

Ці методи, кожен з яких є відносно великим проєктом, зазвичай важко реалізувати підприємствам, які намагаються задовольнити попит шляхом створення власних дата-центрів. Багато алгоритмічних команд обирають спеціалізованих постачальників обчислювальної потужності для надання підтримки.

Обчислювальна потужність вже стала новою моделлю послуг. Послуги з обчислювальної потужності базуються на різноманітності обчислювальної потужності, зв'язуються через мережу обчислювальної потужності та мають на меті забезпечення ефективної обчислювальної потужності. Це не лише обчислювальна потужність, але і єдина упаковка ресурсів, таких як зберігання, мережа тощо, що надається у формі послуг, таких як API( для виконання доставки обчислювальної потужності.

З точки зору структури виробничого ланцюга, підприємства верхнього рівня в основному постачають Обчислювальну потужність, підприємства середнього рівня відповідають за виробництво та постачання Обчислювальної потужності, а підприємства нижнього рівня є споживачами Обчислювальної потужності. Наразі основними моделями оплати є оплату за обсяг та річна/місячна підписка.

Зі зростанням потреби в обчислювальній потужності для великих моделей, послуги обчислювальної потужності, що виникли з хмарних сервісів, швидко потрапили в поле зору широкої аудиторії, сформувавши унікальний промисловий ланцюг і бізнес-модель. На початковому етапі вибуху індустрії обчислювальної потужності спостерігався дефіцит високопродуктивних GPU, високі витрати на обчислювальну потужність і боротьба за "чіпи" стали унікальною рисою цієї епохи.

В довгостроковій перспективі обчислювальна потужність стає безумовним трендом. Постачальники обчислювальної потужності повинні бути готові вчасно коригувати стратегію, коли великі моделі повертаються до раціональності та ринкові тренди швидко змінюються.