Meta, материнська компанія Facebook, представила новий проєкт під назвою Purple Llama, спрямований на просування відповідального й етичного використання штучного інтелекту (ШІ). Ця ініціатива підкреслює прагнення Meta просувати ШІ, забезпечуючи при цьому етичний та безпечний розвиток технології.
«Як перший крок ми випускаємо CyberSec Eval – набір тестів оцінки безпеки кібербезпеки для LLM і Llama Guard – класифікатор безпеки для фільтрації вводу/виводу, оптимізований для простоти розгортання. Відповідно до нашого відкритого підходу ми з нетерпінням чекаємо на співпрацю із нещодавно анонсованим AI Alliance, AMD, AWS, Google Cloud, Hugging Face, IBM, Intel, Lightning AI, Microsoft, MLCommons, NVIDIA, Scale AI та багатьма іншими, щоб покращити та зробити інструменти, доступні спільноті з відкритим кодом», – заявили в Meta.
Проєкт Purple Llama покликаний надати розробникам інструменти й оцінки, що сприяють відповідальній розробці відкритих генеративних моделей ШІ.
Свою назву він отримав від концепції «фіолетової команди» у сфері кібербезпеки, яка поєднує наступальні й оборонні стратегії для комплексної оцінки та пом’якшення потенційних ризиків.
«Чому фіолетовий? Ми вважаємо, що для справжнього пом’якшення викликів, які створює генеративний штучний інтелект, нам потрібно зайняти положення як в атаці (червона команда), так і в обороні (синя команда). Фіолетове об’єднання, що складається з обов’язків червоної та синьої команд, є спільним підходом до оцінки та пом’якшення потенційних ризиків», – пояснили в Meta.
Той самий дух, за їхніми словами, стосується генеративного ШІ. Отже, й інвестиції в Purple Llama будуть комплексними.
«Люди, які створюють системи штучного інтелекту, не можуть вирішувати проблеми штучного інтелекту у вакуумі, тому ми хочемо вирівняти умови гри й створити центр мас для відкритої довіри та безпеки. Ми оголошуємо про запуск Purple Llama – парасолькового проєкту, який із часом об’єднає інструменти й оцінки, щоб допомогти спільноті відповідально будувати за допомогою відкритих генеративних моделей ШІ», – наголосили в Meta.
У своїй початковій версії Purple Llama пропонуватиме інструменти й оцінки, орієнтовані на кібербезпеку та захист вводу/виводу. Ці компоненти будуть доступні на умовах дозвільного ліцензування, що дасть змогу використовувати їх як у дослідженнях, так і в комерційних цілях. А найближчим часом з’явиться більше інструментів.
Meta передбачає спільний підхід, що дає змогу розробникам налаштовувати майбутні версії Purple Llama відповідно до своїх конкретних потреб.
Цей підхід спрямований на просування кращих практик та розширення відкритої екосистеми для відповідальної розробки генеративного ШІ. Meta прагне співпрацювати з партнерами, які поділяють бачення створення відповідальної та відкритої екосистеми штучного інтелекту.
Раніше ProIT повідомляв, що Meta й IBM засновують Альянс штучного інтелекту.
Підписуйтеся на ProIT у Telegram, щоб не пропустити жодну публікацію!
