ART.IS.YOU / ИССЛЕДОВАТЕЛЬСКОЕ ЭССЕ / 02
Ошибка ИИ не заканчивается на ответе
Неверное описание можно исправить до публикации. Но если ответ системы уже стал подписью к работе, рекомендацией или аргументом для решения, у ошибки появляется человеческий адрес.
Генеративная модель может уверенно предложить неверное утверждение. В профиле рисков генеративного ИИ американский Национальный институт стандартов и технологий называет такое явление confabulation: система представляет ошибочный или ложный материал как ответ. Это полезное техническое описание. Но для культуры важен следующий шаг: что человек делает с этим ответом.
Момент, когда текст становится действием
Представим музейную подпись. Система описывает абстрактную работу и называет фигуру там, где зритель мог бы увидеть только отношение линий и цвета. Пока это черновик, перед нами одно машинное прочтение. Если куратор помещает фразу рядом с произведением без оговорки, она становится частью публичного рассказа о нём. Посетитель уже встречает не предположение модели, а утверждение институции.
Проблема здесь шире вопроса «угадала ли машина объект». Подпись направляет внимание. Она предлагает зрителю язык, в котором работу нужно увидеть, и может закрыть другие чтения. Даже формально корректное описание способно сузить произведение, если его выдают за единственное. Ошибка возникает не только в ответе системы, но и в нашем решении сделать этот ответ окончательным.
Проверка нужна, но её недостаточно
Фактические утверждения следует проверять: имена, даты, материал, происхождение работы. Но часть культурных высказываний не сводится к проверке по справочнику. Можно убедиться, что описание не содержит ложных сведений, и всё же спросить: почему система выделила именно этот признак? Что она оставила за пределами текста? Кому принадлежит решение считать эту интерпретацию основной?
В исследовании «Обратный промпт» этот переход сделан видимым. Оригинал, машинное описание, новая инструкция и результат сохраняются как разные этапы. Такая запись не устраняет риск ошибки. Она позволяет увидеть, в какой момент одно прочтение превратилось в условие следующего действия. Отдельный текст о переводе изображения разбирает эту цепочку подробнее.
Три вопроса перед публикацией ответа
Что система получила на вход и чего она не видела?
Это проверенный факт, возможное описание или предложение для обсуждения?
Кто отвечает за то, что текст будет показан другим людям именно в таком виде?
Эти вопросы не превращают человека в безошибочного контролёра. Они возвращают ему возможность остановиться, изменить формулировку, показать несколько версий или отказаться от автоматического ответа. Ответственность не означает, что последнее слово всегда должно быть написано вручную. Она означает, что последнее слово нельзя незаметно передать инструменту.
Право изменить саму задачу
В эссе «Ошибка как территория свободы» я различаю алгоритмическую коррекцию и человеческое изменение. Для системы ошибка — сигнал о расхождении с заданной целью. Для человека ошибка иногда становится поводом спросить, верно ли была поставлена сама цель. Это различие особенно заметно там, где автоматический ответ обещает избавить нас от трудного выбора.
В музейном примере можно искать всё более точную подпись. А можно признать, что произведению не нужна одна окончательная подпись. Можно открыть зрителю несколько интерпретаций и показать, как возникла каждая из них. Тогда техническая возможность описывать быстрее не превращается в обязанность сократить сложность.
Ошибка ИИ получает последствия через человеческое применение. Поэтому важен не миф о машине, которая всегда права или всегда ошибается, а устройство перехода от ответа к действию. Именно на этом переходе у человека остаётся право проверить, возразить и выбрать другой путь.