Сила в связке: лестница автономности
Когда речь заходит об искусственном интеллекте, многих привлекает идея полной самостоятельности чтобы система принимала решения без участия человека. В государственном управлении такой подход опасен вдвойне. Поэтому вместо резкого перехода предлагается использовать лестницу автономности уровни, на которых чётко разделены зоны ответственности.
Уровень 0 (Советник). Система анализирует информацию и предлагает варианты, но не вносит изменений во внешние системы. Это безопасный старт.
Уровень 1 (Подготовка). ИИ создаёт проект письма, документа или отчёта. Человек проверяет и запускает процесс.
Уровень 2 (Ограниченное исполнение). Система самостоятельно выполняет заранее разрешённые, обратимые и низкорисковые действия: классифицирует запросы, обновляет внутренние поля, собирает сводки.
Уровень 3 (Управляемый процесс). ИИ ведёт цепочку действий в рамках заданных лимитов, но критические точки остаются за человеком.
Уровень 4 (Высокая автономия). Допустим только там, где риски хорошо измерены, действия обратимы и предусмотрены дополнительные механизмы защиты.
Подавляющему большинству государственных процессов сегодня не нужен четвёртый уровень. Основной эффект сокращение сроков и ошибок достигается уже на уровнях 13. Речь не идёт о роботизации ради роботизации. Выбирается разумный баланс, при котором алгоритм берёт на себя рутину, а человек остаётся ответственным за сложные решения.
В следующем посте разберём, почему человеческое да это не слабость, а необходимая страховка, и в каких ситуациях участие специалиста строго обязательно.
#Искусственный_интеллект