DeepSeek відкрила код DeepInfer для прискорення роботи ШІ та скорочення витрат

DeepSeek відкрила доступ до програмного забезпечення DeepInfer, яке оптимізує процес запуску та роботи моделей штучного інтелекту. Як повідомляє Bloomberg, інструмент покликаний підвищити продуктивність ШІ без пропорційного збільшення витрат на обчислювальну інфраструктуру.

Наразі DeepInfer підтримує модель DeepSeek V4.1-Flash. У майбутньому компанія планує розширити сумісність програмного забезпечення з новими моделями власної розробки.

Як DeepInfer скорочує витрати на ШІ

Програмне забезпечення поєднує кілька методів оптимізації обчислень, зокрема розподіл завдань між різними апаратними ресурсами. Це дозволяє збільшувати кількість результатів, які генерує модель за одиницю часу, та ефективніше використовувати продуктивність чипів.

Більшість застосованих технологічних підходів уже відомі на ринку штучного інтелекту, однак DeepSeek адаптувала їх до архітектури власних моделей.

Водночас заявлена ефективність DeepInfer поки не отримала незалежного підтвердження. Для практичного використання інструмента, як і раніше, необхідні відповідна обчислювальна інфраструктура та технічні знання.

Відкритий код для сторонніх розробників

Публікація вихідного коду дозволяє іншим компаніям досліджувати технологічні рішення DeepSeek та адаптувати окремі компоненти для власних систем штучного інтелекту.

Водночас DeepInfer насамперед оптимізований для моделей китайської компанії, тому його використання з іншими ШІ-системами може потребувати додаткових технічних змін.

Випуск інструмента відбувається на тлі повідомлень про підготовку DeepSeek до залучення нового фінансування. За інформацією ЗМІ, компанія наближається до завершення інвестиційного раунду обсягом щонайменше 80 млрд юанів, або понад $12 млрд. Початково планувалося залучити близько 50 млрд юанів, однак інтерес інвесторів перевищив очікування.