Названия:
ОБЪЯСНИМЫЙ ИСКУССТВЕННЫЙ ИНТЕЛЛЕКТ (XAI): МЕТОДОЛОГИЧЕСКИЕ ПОДХОДЫ К ИНТЕРПРЕТАЦИИ РЕШЕНИЙ СЛОЖНЫХ НЕЙРОСЕТЕВЫХ МОДЕЛЕЙ
Автор:
Савельев Артем Николаевич
Расположение страниц:
22-26
Язык:
Русский
Аннотация:
В данной статье рассматривается одна из наиболее актуальных проблем современного машинного обучения — отсутствие прозрачности в процессе принятия решений нейронными сетями, известное как проблема «черного ящика». Автор проводит детальный анализ концепции объяснимого искусственного интеллекта (Explainable AI, XAI), исследуя математические и алгоритмические методы, позволяющие интерпретировать логику работы моделей. В работе систематизированы основные подходы к объяснимости: методы локальной интерпретации (LIME), аддитивные объяснения Шапли (SHAP), а также карты внимания и градиентные методы визуализации для сверточных нейронных сетей. Рассматривается критическая значимость объяснимости в таких областях, как медицина, финансовый сектор и автономный транспорт, где цена ошибки крайне высока.