ProIT: медіа для профі в IT
3 хв.

Які чипи потрібні для покращення обробки робочого навантаження ШІ?

author avatar ProIT NEWS

Нові конструкції чипів незабаром можуть революціонізувати штучний інтелект, використовуючи інноваційні способи більш ефективної обробки генеративних робочих навантажень. Про це йдеться в матеріалі Data Centre Knowledge.

«Коли справа доходить до машинного навчання, дотримання вимог робочих навантажень AI/ML як з точки зору апаратного, так і програмного забезпечення має першочергове значення. Потенційні апаратні можливості зосереджені навколо розробки прискорювачів ШІ/графічних процесорів, які відповідають спеціальним навантаженням, щоб задовольнити спеціалізовані потреби підприємств», – розповів Сіддхарт Котвал, керівник практики NVIDIA Quantiphi.

Універсальні мікропроцесори, такі як Intel та AMD, пропонують високу продуктивність для широкого спектру застосунків, своєю чергою зазначив Бен Лі, професор Penn Engineering Університету Пенсильванії.

Однак він додав, що чипи, налаштовані для конкретних областей застосування, таких як ШІ, можуть запропонувати набагато більшу продуктивність та енергоефективність.

«По-перше, вони оптимізують переміщення даних у процесор і всередині нього, зменшуючи кількість енергоємних передач даних. По-друге, вони створюють великі інструкції для користувачів, які виконують набагато більше роботи за виклик, що дає змогу чипу амортизувати енергетичні витрати на надання даних для цих інструкцій. Комп’ютерні інженери часто користуються емпіричним правилом: спеціальні чипи, адаптовані для певної області застосування, можуть підвищити продуктивність та енергоефективність на два порядки, тобто у 100 разів», – йдеться у повідомленні.

Одним із перспективних напрямів досліджень є обробка у пам’яті, processing-in-memory (PIM), яка поєднує нові технології пам’яті з аналоговими обчисленнями – резисторами, розповів Бен Лі.

«Коли струм протікає через ці запрограмовані резистори, пам’ять може здійснювати множення та додавання, які є основою для багатьох обчислень машинного навчання. PIM забезпечує набагато більшу ефективність, оскільки обчислення вбудовані у дані, що усуває необхідність переміщення великих обсягів даних на великі відстані до процесора», – зауважив фахівець.

На думку Сіддхарта Котвала, попит на графічні процесори Edge буде зростати, особливо для визначення меж, що потребуватиме графічних процесорів від таких компаній, як NVIDIA, Arm, Qualcomm та інших у SoC або мобільних доменах.

Мінімізація перешкод

Дослідники Університету Південної Каліфорнії нещодавно розробили метод, який дає змогу пристроям мінімізувати перешкоди для завдань ШІ. Ця інновація вирізняється безпрецедентною щільністю інформації, зберігаючи 11 біт на компонент, що робить її найкомпактнішою технологією пам’яті на сьогодні. Ці крихітні, але потужні чипи можуть кардинально змінити правила гри, якщо вмонтувати їх у наші мобільні пристрої та значно розширити їхні можливості.

Нові NPU, ASIC і FPGA, розроблені для робочих навантажень ШІ, можуть бути набагато ефективнішими та рентабельнішими, розповів Роберт Дейгл, директор Lenovo Global AI. Він передбачив, що прискорювачі ШІ стануть більш спеціалізованими для конкретних випадків використання. Наприклад, нові прискорювачі розроблені спеціально для комп’ютерного зору, генеративного ШІ та навчання.

За словами посадовця, найновіші конструкції чипів інтегрують можливості для роботи в середовищах із рідинним охолодженням, знаменуючи перехід до більш стійких методів використання енергії. Ключовим пріоритетом дизайну є мінімізація споживання енергії та посилення розсіювання тепла.

Еволюція прискорювачів ШІ розвивається за двома різними траєкторіями: дискретні, спеціально створені прискорювачі, та ядра ШІ, інтегровані у багатофункціональні кремнієві процесори, зазначив Дейгл. Ця конвергенція передового, ефективного кремнію, інноваційних методів рідинного охолодження і вдосконаленого коду ШІ у надійних структурах готова розширити потенціал нових моделей і рішень ШІ.

«Штучний інтелект продовжуватиме розвиватися і ставати складнішим, вдосконалення дизайну чипів допоможе у цьому еволюційному процесі. Ми можемо очікувати значного зниження енергоспоживання, покращення акустики й економії коштів», – зауважив фахівець.

ШІ у комп’ютерному зорі

Одну з останніх інновацій розробили дослідники з Університету Цінхуа в Китаї. Вони повідомили, що створили  повністю аналоговий фотоелектричний чип, який об’єднує оптичні й електронні обчислення для швидкої та енергоефективної обробки комп’ютерного зору.

Аналоговий і цифровий сигнали є двома способами передачі інформації. Аналогові сигнали, такі як світло, що формує зображення, безперервно змінюються, тоді як цифрові сигнали, зокрема бінарні числа, не є безперервними.

Розпізнавання зображень і виявлення об’єктів у комп’ютерному зорі починаються з аналогових сигналів із середовища. Щоб обробляти їх за допомогою нейронних мереж ШІ, ці аналогові сигнали потрібно перетворити на цифрові. Перетворення вимагає часу та енергії, що може уповільнити роботу нейронної мережі. Фотонні обчислення з використанням світлових сигналів є перспективним рішенням.

У своїй статті, опублікованій у Nature, дослідники розповіли, що створили інтегрований процесор, який поєднує у собі переваги світла й електрики повністю аналоговим способом. Вони називають це ACCEL (скорочення від all-analog chip combining electronic and light computing).

«Ми максимізували переваги світла й електрики при повністю аналогових сигналах, уникаючи недоліків аналого-цифрового перетворення та вирішивши проблему енергоспоживання і швидкості», – розповів Фан Лу, дослідник із команди Університету Цінхуа.

Нещодавно ми повідомляли, що Уряд Японії виділив додаткові $13,3 мільярда (2 трильйони єн) для розвитку внутрішньої напівпровідникової промисловості.

Підписуйтеся на ProIT у Telegram, щоб не пропустити жодну публікацію!

Приєднатися до company logo
Продовжуючи, ти погоджуєшся з умовами Публічної оферти та Політикою конфіденційності.