Последние
Основы ИИ

Технологии искусственного интеллекта: виды систем и проверка результата

Как различать виды ИИ по задаче и выходу, из каких частей состоит система и как проверить её на безопасном воспроизводимом примере.

В этом материале7 разделов
Три этапа работы с ИИ: входные данные в виде текста, чисел или изображения, обработка моделью и результат в виде прогноза, метки или черновика. Итог требует проверки по задаче.
Редакционная схема PENROUZ NEWS. Результат проверяют по задаче и исходным данным.PENROUZ NEWS

Сообщить об ошибке или предложить уточнение

Технологии искусственного интеллекта: что именно скрывается за названием

Технологии искусственного интеллекта — это не один универсальный механизм и не синоним чат-бота. В практическом смысле это набор подходов, которые превращают входные данные в прогноз, категорию, рекомендацию, сгенерированный объект или управляющее действие. Поэтому полезный вопрос звучит не «какой ИИ самый умный», а «какой результат нужен, из каких данных его можно получить и как заметить ошибку». Такая постановка сразу отделяет задачу от рекламного названия продукта.

Если пока неясна разница между моделью, алгоритмом и готовым сервисом, сначала прочитайте «Что такое ИИ простыми словами». Здесь фокус уже: разобрать систему на компоненты и выбрать подходящий тип результата. Даже сильная модель остаётся лишь частью решения. В реальном продукте рядом с ней работают сбор и подготовка данных, правила доступа, интерфейс, программная логика, журналирование и человек, который отвечает за применение результата.

Системы искусственного интеллекта: из каких частей они состоят

Системы искусственного интеллекта удобно описывать цепочкой из шести элементов: цель, вход, модель, выход, действие и контроль. Цель задаёт полезный результат для человека или организации. Входом могут быть текст, изображение, звук, показания датчика или таблица. Модель преобразует вход в прогноз или новый объект. Затем программная часть решает, как показать или использовать выход. Контроль проверяет качество, ограничения и последствия. Если пропустить хотя бы один элемент, сравнение систем становится поверхностным.

Классификация OECD предлагает смотреть шире самой модели: учитывать людей и окружающую среду, экономический контекст, данные и входы, модель, а также задачу и выход. Это помогает увидеть, почему одинаковая технология имеет разный риск. Распознавание тем в личном архиве и автоматическая блокировка банковской операции могут использовать похожий классификатор, но цена ложного решения и требования к объяснению несопоставимы. Название архитектуры само по себе не определяет допустимость применения.

Искусственный интеллект: виды по ожидаемому результату

Для читателя полезнее делить виды ИИ по выходу, а не по громким поколениям. Классификация относит объект к категории: например, обращение к теме «доставка» или «возврат». Регрессия предсказывает число: время, спрос или расход. Ранжирование упорядочивает варианты. Кластеризация ищет группы без заранее заданных названий. Генеративная модель создаёт текст, изображение, аудио или видео. Система поиска и извлечения находит сведения, а агентная оболочка может последовательно вызывать инструменты. В одном продукте несколько видов часто соединены.

Google рекомендует сначала сформулировать идеальный результат, затем выход модели и метрики успеха. Для категории подходит классификация, для числового значения — регрессия, для нового содержимого — генерация. Однако выход модели и итог продукта не всегда совпадают: модель может предсказать вероятность, а программа по порогу запускает действие. Этот порог, запасной сценарий и право человека отменить действие относятся к системе, хотя не являются частью самой модели.

Применение искусственного интеллекта: как сопоставить технологию и задачу

Применение искусственного интеллекта начинайте с таблицы «вход — желаемый выход — ошибка — проверка». Для сортировки обращений входом служит текст, выходом — одна из утверждённых тем, критической ошибкой — неверная отправка чувствительного сообщения, проверкой — контрольный набор с известными ответами. Для краткого пересказа входом будет документ, выходом — резюме заданного формата, ошибкой — пропущенное условие или выдуманный факт, проверкой — сверка каждого существенного тезиса с исходником.

После определения задачи сравнивайте конкретные сервисы на одинаковых примерах по маршруту «Как выбрать ИИ для работы». Не переносите оценку с одной задачи на другую: модель, хорошо распределяющая короткие обращения, не обязана точно извлекать суммы из длинных документов. Не используйте реальные закрытые данные в пробе. Сначала создайте вымышленный набор, зафиксируйте ожидаемые ответы и только потом решайте, допустим ли пилот с надлежащими правилами доступа.

Использование искусственного интеллекта: как проверить систему, а не один ответ

Использование искусственного интеллекта нельзя оценить по одной удачной демонстрации. Соберите примеры обычных, пограничных и недопустимых случаев. Для каждого запишите ожидаемый результат, фактический ответ, тяжесть ошибки и действие при сбое. Повторите тест после изменения модели, промпта, данных или порога. NIST относит к признакам заслуживающей доверия системы обоснованность и надёжность, безопасность, защищённость и устойчивость, подотчётность и прозрачность, объяснимость, защиту приватности и управление вредной предвзятостью. Их приходится балансировать с учётом контекста.

Для текстовых результатов используйте отдельную проверку фактов и источников из материала «Как проверять ответы ИИ». Для классификатора считайте ошибки по каждому классу, а не только общую долю совпадений. Для числового прогноза смотрите величину отклонения и особенно опасные диапазоны. Для генерации заранее определите обязательные элементы, запрещённые утверждения и способ ручной сверки. Метрика должна отражать вред реальной ошибки, а не просто давать красивое среднее число.

Рабочий пример: система сортировки вымышленных обращений

Представим вымышленную службу поддержки учебной платформы, которая получает сообщения трёх типов: «исправление в уроке», «предложение темы» и «техническая проблема». Команда создаёт 60 вымышленных фраз без персональных данных, откладывает 20 из них для проверки и не показывает эти 20 примеров при настройке. Базовый вариант — простые правила по словам. Второй — классификационная модель. Система показывает предложенную тему и уверенность, но ничего не отправляет автоматически. Сотрудник поддержки подтверждает или меняет категорию.

Проверка проходит так: команда сравнивает правила и модель на одной контрольной части, отдельно считает пропуски технических проблем и записывает неоднозначные случаи. Если фраза «после исправления страница всё равно не открывается» ошибочно попала в «исправление в уроке», это становится новым пограничным тестом, но не переносится задним числом в уже проведённую оценку. Результат считается полезным, если критерий задан заранее, тест можно повторить, ошибки видны, а у человека остаётся понятный способ остановить процесс.

Где заканчивается модель и начинается ответственность

UNESCO описывает ИИ-системы как технологии обработки информации, которые могут включать машинное обучение, глубокое обучение и обучение с подкреплением, а также машинное рассуждение, поиск, планирование и оптимизацию. Рекомендация отдельно подчёркивает жизненный цикл системы, прозрачность, проверяемость и человеческий надзор. Это важное ограничение классификации: назвать метод недостаточно. Нужно знать, кто принимает окончательное решение, какие данные затронуты, можно ли оспорить результат и что происходит после прекращения работы системы.

Если цель — не обзор технологий, а освоение практических навыков, используйте маршрут «Обучение искусственному интеллекту с нуля». Для выбора конкретной системы вернитесь к пяти вопросам: какой нужен выход, какие доступны данные, какова цена ошибки, чем измеряется качество и кто отвечает за действие. Если на любой вопрос нет ответа, технология пока не выбрана — найден лишь привлекательный ярлык. Начните с простого проверяемого решения и усложняйте его только после воспроизводимой оценки.

Прозрачность

Источники и примечания

  1. Framing an ML problem | Machine Learning | Google for Developers
  2. OECD Framework for the Classification of AI systems
  3. Artificial Intelligence Risk Management Framework (AI RMF 1.0)
  4. Recommendation on the Ethics of Artificial Intelligence | UNESCO

В этом материале

На этом устройстве

Сохранённые материалы