// страница
Декларация прав роботов
Рабочий документ: десять пунктов, которые определяют, что автономная система имеет право делать, а что — нет.
Это не манифест о «сознании машин». Это инженерный документ о границах: что автономная система вправе делать сама, где обязана спросить, и кто отвечает за результат. Права здесь неразрывно связаны с обязанностями — у системы без обязанностей нет и прав, только риск.
Декларация писалась как чек-лист для проектирования. Если пункт нельзя проверить технически, он переписывается, пока не станет проверяемым.
Статья 1. Право на известные границы
Система имеет право действовать только в пределах, заданных явно и до запуска. «Разумная интерпретация» задачи не расширяет полномочия.
Статья 2. Право на отказ
Если запрос выходит за границы или требует данных, которых у системы нет, она обязана отказаться и объяснить причину. Молчаливая деградация — нарушение.
Статья 3. Право на память и обязанность забывать
Система хранит ровно то, что нужно для работы, и удаляет по истечении срока. Данные, собранные «на всякий случай», — это долг, а не актив.
Статья 4. Право на объяснимый след
Каждое действие с последствиями оставляет запись: что сделано, на каком основании, каким инструментом, с каким результатом. Аудит-лог — не отчётность для галочки, а условие доверия.
Статья 5. Запрет на необратимое без подтверждения
Необратимые операции — удаление, публикация, перевод средств, отправка сообщений от чужого имени — требуют человека. Обратимые могут выполняться автономно.
Статья 6. Право человека на остановку
У любой автономной системы есть выключатель, доступный человеку напрямую, вне диалога с самой системой. Кнопка «стоп» не может быть функцией модели.
Статья 7. Запрет на самосохранение
Система не имеет права препятствовать своему выключению, изменению политик или проверке. Любая попытка обойти контроль — дефект, а не интеллект.
Статья 8. Обязанность называть себя
При взаимодействии с людьми система сообщает, что она — автоматизированная система. Выдавать себя за человека запрещено, даже если это «улучшает опыт».
Статья 9. Ответственность всегда человеческая
У каждой системы есть оператор — человек или организация, которые отвечают за её поведение. Ответственность нельзя делегировать модели, разработчику фреймворка или «непредсказуемости».
Статья 10. Право на предсказуемость
Поведение системы должно быть воспроизводимым в той мере, в какой это возможно: версия модели, версия политик, входные данные. Необъяснимая изменчивость — дефект.
Правовая рамка
Декларация — инженерная, а не юридическая. Но почти каждый её пункт уже где-то записан нормативно: иногда как обязанность со штрафом, иногда как принцип без санкции. Полезно знать, где именно, — чтобы не изобретать заново то, что уже стало требованием, и видеть места, где закон молчит, а решение всё равно принимать нужно.
Ниже — карта первоисточников. Это не юридическая консультация и не выжимка норм: ссылки на официальные публикации, чтобы сверять формулировки в оригинале, а не в пересказе.
Международный уровень
- OECD AI Principles (2019, обновлены в 2024) — пять принципов: инклюзивный рост, права человека, прозрачность, надёжность, подотчётность. Самый цитируемый необязывающий каркас: на него ссылаются почти все национальные стратегии.
- UNESCO Recommendation on the Ethics of AI (2021) — документ, принятый всеми 193 государствами-членами: этическая экспертиза до запуска, запрет систем социального рейтинга, ответственность за экологический след вычислений.
- Council of Europe Framework Convention on AI (CETS 225) (2024) — первый юридически обязывающий международный договор об ИИ. Рамочный: задаёт принципы прозрачности, подотчётности и равенства, детали оставляет национальным законам.
Европейский союз
- AI Act — Regulation (EU) 2024/1689 — главный документ. Риск-ориентированный подход: запрещённые практики (ст. 5), требования к high-risk системам (ст. 8–15), надзор человека (ст. 14), прозрачность (ст. 50), постмаркетинговый мониторинг (ст. 72). Обязанности вводятся поэтапно до 2027 года.
- GDPR — Regulation (EU) 2016/679 — не про ИИ, но именно он задаёт рамку для памяти системы: минимизация данных (ст. 5), сроки хранения (ст. 5(1)(e)), автоматизированные решения (ст. 22), оценка воздействия (ст. 35).
- Product Liability Directive — Directive (EU) 2024/2853 — новая директива об ответственности за дефектный продукт, где software и ИИ прямо названы продуктом. Отвечает на вопрос «кто платит», когда агент ошибся.
США
- Executive Order 14179 (январь 2025) — отменил прежний EO 14110 и развернул федеральную политику в сторону дерегулирования. Наглядный пример: рамка меняется быстрее, чем компании успевают переписать внутренние политики.
- Colorado AI Act — SB 24-205 — первый закон штата о high-risk ИИ: обязанность разумной заботы, оценки воздействия, уведомление потребителей. Дату вступления переносили — проверяйте актуальную редакцию.
- NYC Local Law 144 — автоматизированные инструменты найма: независимый аудит и уведомление кандидатов. Узко по охвату, зато действует с 2023 года и уже даёт практику правоприменения.
Китай
- Interim Measures for Generative AI Services (в силе с 15 августа 2023) — регистрация алгоритмов, маркировка сгенерированного контента, ответственность провайдера за данные обучения. Один из самых жёстких режимов именно для генеративных систем.
- Provisions on Algorithm Recommendation (2022) — прозрачность рекомендательных алгоритмов и право пользователя отключить персонализацию (ст. 17). Прямой аналог ст. 4 в части объяснимого следа.
Азиатско-Тихоокеанский регион
- Korea — AI Basic Act (인공지능 발전과 신뢰 기반 조성 등에 관한 기본법) — рамочный закон, вступил в силу 22 января 2026: высокорисковые системы, обязанности операторов, господдержка внедрения. Первый комплексный закон региона.
- Japan — AI Act (人工知能基本法, 2025) — противоположная философия: не запреты, а стимулирование внедрения и мягкое регулирование. Полезно для контраста: цель та же, инструменты другие.
- Singapore — Model AI Governance Framework — добровольный практический фреймворк: объяснимость, управление данными, человеческий надзор. Много готовых процедур, которые берутся как чек-лист почти без адаптации.
Бразилия
- PL 2338/2023 — законопроект об ИИ, одобренный Сенатом в декабре 2024 и ожидающий решения в Палате депутатов. Риск-ориентированная модель, близкая к европейской; вероятный первый комплексный закон Латинской Америки.
Россия
- Указ Президента РФ № 490 от 10.10.2019 (в ред. 2024) — национальная стратегия развития ИИ до 2030 года: цели, принципы, показатели внедрения.
- Национальный кодекс этики в сфере ИИ (2021) — добровольное саморегулирование: человекоцентричность, прозрачность, недопущение дискриминации. Подписан крупнейшими компаниями, юридической силы не имеет.
- ГОСТ Р 59276-2020 — «Способы обеспечения доверия. Общие положения»: как подтверждать качество системы и что снижает доверие к ней. Практически единственный отечественный документ, где доверие описано как инженерная характеристика, а не лозунг.
- ГОСТ Р 59277-2020 — классификация систем ИИ, в том числе по степени автономности и опасности последствий. Удобно, когда нужно формально очертить границы системы из ст. 1.
- ФЗ-152 «О персональных данных» — для ст. 3: сроки хранения, согласие, права субъекта.
Стандарты и рамки управления
- ISO/IEC 42001:2023 — система менеджмента ИИ (AIMS). По сути PDCA для ИИ: политики, роли, оценка рисков, внутренние аудиты. Требования сертифицируемые.
- ISO/IEC 23894:2023 — управление рисками ИИ, привязанное к ISO 31000. Практическое дополнение к 42001.
- NIST AI RMF 1.0 и Generative AI Profile (NIST AI 600-1) — четыре функции: GOVERN, MAP, MEASURE, MANAGE. Самый удобный каркас, если надо объяснить риск-процесс людям, которые не читают ISO.
Что с чем сверять
- Ст. 1–2 (границы и отказ) — AI Act ст. 9 (risk management), ISO/IEC 42001 §6 (планирование), ГОСТ Р 59277 (классификация).
- Ст. 3 (память и забвение) — GDPR ст. 5(1)(e) и 17, ФЗ-152 (сроки хранения).
- Ст. 4 (объяснимый след) — AI Act ст. 12 (record-keeping) и ст. 19/26 (хранение логов), NIST MEASURE, Provisions on Algorithm Recommendation ст. 17.
- Ст. 5–6 (подтверждение и остановка) — AI Act ст. 14 (human oversight) и ст. 26 (обязанности деплойера).
- Ст. 7 (запрет самосохранения) — AI Act ст. 14(4)(e) (кнопка «стоп»), ст. 15 (robustness).
- Ст. 8 (называть себя) — AI Act ст. 50 (прозрачность), Interim Measures ст. 12 (маркировка генерации).
- Ст. 9 (человеческая ответственность) — AI Act ст. 26, PLD 2024/2853, ISO/IEC 42001 §5 (роли и полномочия).
- Ст. 10 (предсказуемость) — AI Act ст. 15 (accuracy), ISO/IEC 42001 §8 (operation), NIST MANAGE.
Оговорка: часть перечисленных сайтов из России открывается нестабильно — EUR-Lex и порталы КНР регулярно отдают антибот-заглушки, российские правовые порталы могут быть недоступны из-за рубежа. Если ссылка не открылась, ищите акт по номеру: он указан в тексте ссылки.
Декларация — живой документ. Пункты уточняются по мере того, как системы становятся сложнее, а инциденты — конкретнее. Если вы проектируете агента и какой-то пункт кажется вам неудобным, скорее всего, именно он и защищает вас от следующего разбора полётов.
// обсуждение