Новый подход ускорит создание объяснимых систем искусственного интеллекта с понятной логикой принятия решений
Исследователи из России представили инновационный алгоритм, позволяющий разрабатывать полностью прозрачные системы искусственного интеллекта (ИИ). В отличие от современных нейросетей, работающих по принципу «черного ящика», новая архитектура обеспечивает полную интерпретируемость решений. Разработка принадлежит ученым из Института теоретической и экспериментальной биофизики РАН (ИТЭБ РАН, Пущино) и Института биофизики клетки РАН.
Проблема «черного ящика» в современных системах ИИ
Современные генеративные модели ИИ, такие как ChatGPT, Midjourney и Stable Diffusion, работают на основе сложных нейросетевых алгоритмов, внутренние механизмы которых остаются непонятными даже для их создателей.
Как поясняет Лев Калмыков, научный сотрудник ИТЭБ РАН:
«Современный ИИ — это “черный ящик”. Мы видим входные данные и результат, но не понимаем, как именно система пришла к тому или иному выводу. Это создает риски ошибок, неконтролируемого поведения и сложности в доработке алгоритмов».
Проблема интерпретируемости ИИ стала настолько острой, что в 2016 году в США запустили программу XAI (Explainable AI), направленную на объяснение работы нейросетей. Однако даже эти меры не устранили главный недостаток — невозможность полностью предсказать решения ИИ.
Как работает новая архитектура «белого ящика»?
Российские ученые предложили альтернативу — символический ИИ на основе логических клеточных автоматов.
Ключевые особенности технологии:
✅ Полная прозрачность — каждый шаг алгоритма можно отследить и объяснить.
✅ Логические клеточные автоматы — математическая модель, где вычисления происходят в дискретных ячейках, меняющих состояние по четким правилам.
✅ Гибкость — система подходит как для узкоспециализированных задач (экология, медицина), так и для ИИ общего назначения.
Где уже применяется технология?
Ученые успешно использовали новый ИИ для:
🔹 Проверки экологических гипотез
🔹 Решения парадокса биоразнообразия
🔹 Моделирования поведения экосистем
Перспективы: гибридные системы и безопасный ИИ
Разработчики считают, что будущее — за гибридными моделями, сочетающими:
- “Белые ящики” (прозрачные алгоритмы для критически важных решений)
- “Черные ящики” (нейросети для обработки больших данных)
Такой подход снизит риски ошибок ИИ в медицине, финансах и безопасности, а также ускорит внедрение технологий в регулируемых отраслях.
Вывод
Российская разработка открывает путь к безопасному и управляемому ИИ, что особенно важно в условиях ужесточения регуляций (например, Европейский акт об ИИ). В ближайшие годы можно ожидать появления первых коммерческих решений на этой основе.
