Компания Microsoft собирается запустить новую большую языковую модель, которая может составить конкуренцию крупным генеративным моделям от Google и OpenAI. Об этом сообщило издание The Information со ссылкой на инсайдерские источники.
- По предварительной информации, название модели – MAI-1. Запуск инструмента станет первой крупной попыткой Microsoft в разработке собственной ИИ-модели такого масштаба. Компания приступила к её созданию после того, как получила доступ к использованию моделей от OpenAI в качестве основы – Microsoft является главным инвестором этого стартапа и уже вложил в него около 10 миллиардов долларов.
- Руководит разработкой новой модели Мустафа Сулейман – бывший руководитель отдела прикладного ИИ в Google, ныне ставший генеральным директором отдела ИИ-разработок в Microsoft. В марте этого года компания привлекла большое количество новых сотрудников с опытом в сфере ИИ, после чего и появились предположения о возможной разработке ею нового ИИ-продукта.
- По информации из статьи, при работе над MAI-1 создатели опираются на опыт и некоторые технологии Inflection AI – компании, разрабатывающей оборудование и программы для машинного обучения (одним из её основателей также является Мустафа Сулейман). При этом, по словам источников, компания использует и собственные технологии в разработке модели, и новый продукт продемонстрирует собой «значительный скачок по сравнению с предыдущими разработками Microsoft в области искусственного интеллекта» в плане вычислительной мощности, объёма обучающих данных и затрат на разработку.
- Известно, что модель будет обладать примерно 500 миллиардами параметров (для сравнения, у GPT-4 от OpenAI их более 1 триллиона, у менее крупных моделей вроде Mistral – 70 миллиардов). Конкретные области применения MAI-1 пока остаются неизвестными – всё будет зависеть от производительности инструмента. Предварительной даты запуска тоже пока нет – но есть предположение, что компания может представить первую версию продукта на своей конференции разработчиков в конце мая.
- Недавно Microsoft представила малую языковую модель Phi-3-mini: она может быть развернута даже на смартфоне, но при этом не уступает по производительности некоторым крупным аналогам. Подробности об этой новинке мы писали здесь.
Источник: techstartups.com
