МГУ победил в конкурсе центров ИИ и займётся безопасностью языковых моделей
Московский государственный университет имени М.В. Ломоносова (МГУ) вошёл в число победителей конкурса третьей волны центров искусственного интеллекта (ИИ), организованного Минэкономразвития России. Университет получит грант в размере 676 млн рублей на разработку технологий, которые помогут устранить «галлюцинации» больших языковых моделей (LLM).
Галлюцинации ИИ — это известная проблема, при которой нейросети выдают ложную или вымышленную информацию, выдавая её за правду. Это создаёт риски при использовании ИИ в финансах, госуправлении и бизнес-аналитике. Проект МГУ направлен на повышение надёжности ИИ-систем для их безопасного внедрения в критически важные сферы.
Почему «галлюцинации» ИИ — серьёзная угроза?
Что такое «галлюцинации» ИИ и чем они опасны?
Когда чат-бот или языковая модель (например, ChatGPT) «придумывает» факты, цитаты или статистику, это называют галлюцинацией ИИ. Например:
- ИИ может сгенерировать ложные юридические документы;
- дать неверные медицинские рекомендации;
- исказить финансовые отчёты.
Особенно критично это для банков, госуслуг и корпоративных решений, где ошибки могут привести к юридическим и финансовым потерям.
Как МГУ планирует решить проблему?
Директор центра ИИ МГУ Григорий Боков заявил, что университет совместно с индустриальными партнёрами разработает систему контроля достоверности ответов ИИ. Проект включает:
- Алгоритмы верификации данных — проверку фактов через авторитетные источники.
- Методы снижения уровня «вымысла» в ответах нейросетей.
- Интеграцию решений в бизнес-процессы банков, госструктур и корпораций.
Это один из шести прикладных проектов центра, который должен укрепить доверие к ИИ в России.
Мультимодальный ИИ для беспилотников и другие проекты МГУ
Помимо борьбы с «галлюцинациями», МГУ займётся разработкой мультимодальной ИИ-системы для беспилотных автомобилей. Её задача — координировать данные с лидаров, камер и радаров, чтобы повысить безопасность автономного транспорта.
Григорий Боков отметил:
«Проекты амбициозные, но с такой научной базой и поддержкой государства мы уверены в успехе. Наша цель — превратить научные разработки в реальные технологические решения, востребованные как в России, так и за её пределами».
Экосистема ИИ в МГУ: суперкомпьютеры, наука и инновации
Центр ИИ МГУ станет частью масштабной экосистемы, включающей:
- Институт искусственного интеллекта;
- Научно-образовательную школу по ИИ;
- Фонд «Интеллект»;
- Центр хранения и анализа больших данных;
- Суперкомпьютер «МГУ-270» (используется для сложных вычислений в медицине, материаловедении и ИИ).
Такая инфраструктура позволяет университету быть лидером в разработке передовых ИИ-технологий.
Вывод: как это повлияет на рынок ИИ в России?
Разработки МГУ могут существенно снизить риски использования ИИ в:
✔ Банковском секторе (кредитный скоринг, аналитика).
✔ Госуслугах (автоматизация документооборота).
✔ Корпоративном управлении (анализ big data).
Если проект окажется успешным, Россия сможет экспортировать эти технологии, укрепляя позиции на мировом рынке ИИ.
