Спеціалізоване обладнання Microsoft для обчислення ШІ називається Brainwave, і воно створене таким чином, щоб нейронну мережу запустити якомога швидше з мінімальною затримкою.

Компанія оголосила, що з моменту використання Brainwave йому вдалося отримати в десятки разів більшу продуктивність від AI Bing. Модель машинного навчання в основному забезпечує функціональність пошукової системи.

Мета Microsoft, яка повинна бути досягнута за допомогою Brainwave, - це передбачити прогнози AI в реальному часі для додатків, таких як останні функції Bing.

Бінг отримує нові функції

Майкрософт також надає Бінгу кілька нових функцій, і найбільш важливі з них, які варто згадати, пропонують більше відповідей на відповіді на питання та підтримка визначення слів, які не використовуються так часто, коли користувачі наводить на них курсор миші. Ці функції підживлюються Brainwave.

Корпорація Майкрософт використовує FPGA від Intel для живлення AI-обчислень

FPGA - це своєрідні порожні полотна, які розробники можуть використовувати, коли вони хочуть розгорнути різні схеми, надсилаючи нове програмне забезпечення. Це передбачає потужний поєднання продуктивності та програмованості.

Тепер Microsoft може зробити більше, ніж створити більш швидкі моделі з обладнанням; компанія також може будувати більш складні системи AI. Наприклад, прототип 1 Бінга Turing в даний час вдесятеро складніший і швидший завдяки обчислювальній спроможності, доданій через Brainwave.

FGA, розгорнуті компанією Microsoft, оснащені спеціалізованими цифровими сигнальними процесорами на платформі, розширеними для складного математичного інтелекту.

Основна перевага FPGA

Найбільш істотною перевагою FPGA над графічними процесорами (що стало кращим вибором для обчислень AI) є те, що вони не потребують широкого використання пакетних обчислень.

Ключове нововведення дозволяє Microsoft отримувати такі успішні результати через FPGA, це використання 8 та 9-бітних типів даних з плаваючою комою, які кардинально підвищують продуктивність.

Фішки FPGA від Intel дозволяють Bing швидко читати та аналізувати мільярди документів у всій мережі Інтернет і надавати найкращу відповідь на ваше запитання менше ніж за частку секунди.

Насправді FPGA від Intel дозволили нам зменшити затримку наших моделей більш ніж на 10 разів, а також збільшивши розмір нашої моделі на 10 разів.

Використання FPGA для прискорення обчислення ШІ починається з 2012 року

Microsoft почала використовувати FPGA для підвищення швидкості обчислення AI понад шість років тому, коли команда Bing почала використовувати чіпи. Все це чудова новина і для Intel. Компанія придбала Altera, виробника FPGA у 2015 році, і угода на суму 16, 7 мільярдів доларів забезпечила Intel необхідною потужністю для забезпечення потреб Microsoft до сьогодні.

Ми з нетерпінням чекаємо, коли Brainwave буде доступний через Microsoft Azure, щоб запропонувати клієнтам можливість розгорнути свої моделі.