Компанія Red Hat запустила Red Hat Enterprise Linux AI (RHEL AI) як платформу базової моделі, яка дає змогу користувачам більш легко розробляти та розгортати генеративні моделі ШІ.
Штучний інтелект Red Hat Enterprise Linux містить операційну систему Red Hat RHEL, упаковану як образ завантажувального контейнера за допомогою утиліти bootc Linux, що дає змогу переносити її між інфраструктурами.
Також RHEL AI містить нову серію великих мовних моделей IBM Granite з відкритим кодом, підмножину LLM, які лежать в основі Watsonx від IBM та Ansible Lightspeed від Red Hat і чат-ботів, та інструменти вирівнювання InstructLab AI.
InstructLab, також випущений із відкритим вихідним кодом за ліцензією Apache IBM Research і Red Hat цього тижня, дає змогу користувачам точно налаштовувати попередньо навчені моделі Granite за допомогою таксономії знань і навичок, яка генерує синтетичний набір даних, повідомляє Tech Target.
«Тепер ви можете навчити базову модель новим навичкам за допомогою 5 прикладів, для яких раніше потрібно було 5000», – сказав президент і генеральний директор Red Hat Метт Хікс під час основної презентації на початку Red Hat Summit 2024 цього тижня.
RHEL AI вирішує проблеми ШІ з відкритим кодом
RHEL AI має на меті вирішити деякі загальні проблеми штучного інтелекту з відкритим кодом, адже набори даних, які використовуються для їх навчання, часто недоступні разом із вихідним кодом моделі. IBM Research випускає моделі Granite Code Instruct і розкриває набори даних, які використовуються для їх навчання, що включають метадані з IBM CodeNet.
Навчання ШІ з відкритим кодом на внутрішній інфраструктурі також зазвичай потребує величезних ресурсів, які більшість компаній не можуть собі дозволити. Раніше хмарні провайдери заповнювали цю прогалину за допомогою розміщених послуг LLM.
RHEL AI націлений на великі організації, які мають робоче навантаження ШІ на межі, локально та в кількох хмарах, за допомогою портативних зображень контейнерів RHEL та інструментів автоматизації гібридної хмари OpenShift. Тоді як InstructLab із відкритим кодом призначений для більш доступного тонкого налаштування моделей ШІ та вимагає введення меншої кількості даних, ніж інші розміщені LLM.
Представники Red Hat вважають, що ШІ з відкритим вихідним кодом також може подолати деякі загальні проблеми з LLM. Зокрема, відповідність стандартам об’єктивності та доречності результатів через співпрацю спільноти.
Як і у випадку з пропрієтарними LLM та пов’язаними службами від Microsoft і GitHub, Red Hat зберігатиме конфіденційність наборів даних користувачів і відшкодовуватиме збитки користувачам Granite LLM із відкритим кодом.
Цього тижня компанія Red Hat також продемонструвала великий набір інтегрованих генеративних інструментів розробки програм ШІ та керування інфраструктурою, які вийшли за межі RHEL, й оновлення OpenShift AI під назвою Podman, інтеграції IDE VS Code та розширені партнерські відносини із постачальниками мікросхем Intel, AMD та NVIDIA.
Нагадаємо, нещодавно Red Hat оголосила, що її платформа для розробників Developer Hub тепер загальнодоступна.
Платформа, заснована на проєкті CNCF Backstage, підвищує продуктивність та ефективність розробників, об’єднуючи різні аспекти процесу розробки у єдину платформу.
Підписуйтеся на ProIT у Telegram, щоб не пропустити жодної публікації!
