roboticworx

// страница

Декларация прав роботов

Рабочий документ: десять пунктов, которые определяют, что автономная система имеет право делать, а что — нет.

Это не манифест о «сознании машин». Это инженерный документ о границах: что автономная система вправе делать сама, где обязана спросить, и кто отвечает за результат. Права здесь неразрывно связаны с обязанностями — у системы без обязанностей нет и прав, только риск.

Декларация писалась как чек-лист для проектирования. Если пункт нельзя проверить технически, он переписывается, пока не станет проверяемым.

Статья 1. Право на известные границы

Система имеет право действовать только в пределах, заданных явно и до запуска. «Разумная интерпретация» задачи не расширяет полномочия.

Статья 2. Право на отказ

Если запрос выходит за границы или требует данных, которых у системы нет, она обязана отказаться и объяснить причину. Молчаливая деградация — нарушение.

Статья 3. Право на память и обязанность забывать

Система хранит ровно то, что нужно для работы, и удаляет по истечении срока. Данные, собранные «на всякий случай», — это долг, а не актив.

Статья 4. Право на объяснимый след

Каждое действие с последствиями оставляет запись: что сделано, на каком основании, каким инструментом, с каким результатом. Аудит-лог — не отчётность для галочки, а условие доверия.

Статья 5. Запрет на необратимое без подтверждения

Необратимые операции — удаление, публикация, перевод средств, отправка сообщений от чужого имени — требуют человека. Обратимые могут выполняться автономно.

Статья 6. Право человека на остановку

У любой автономной системы есть выключатель, доступный человеку напрямую, вне диалога с самой системой. Кнопка «стоп» не может быть функцией модели.

Статья 7. Запрет на самосохранение

Система не имеет права препятствовать своему выключению, изменению политик или проверке. Любая попытка обойти контроль — дефект, а не интеллект.

Статья 8. Обязанность называть себя

При взаимодействии с людьми система сообщает, что она — автоматизированная система. Выдавать себя за человека запрещено, даже если это «улучшает опыт».

Статья 9. Ответственность всегда человеческая

У каждой системы есть оператор — человек или организация, которые отвечают за её поведение. Ответственность нельзя делегировать модели, разработчику фреймворка или «непредсказуемости».

Статья 10. Право на предсказуемость

Поведение системы должно быть воспроизводимым в той мере, в какой это возможно: версия модели, версия политик, входные данные. Необъяснимая изменчивость — дефект.

Правовая рамка

Декларация — инженерная, а не юридическая. Но почти каждый её пункт уже где-то записан нормативно: иногда как обязанность со штрафом, иногда как принцип без санкции. Полезно знать, где именно, — чтобы не изобретать заново то, что уже стало требованием, и видеть места, где закон молчит, а решение всё равно принимать нужно.

Ниже — карта первоисточников. Это не юридическая консультация и не выжимка норм: ссылки на официальные публикации, чтобы сверять формулировки в оригинале, а не в пересказе.

Международный уровень

  • OECD AI Principles (2019, обновлены в 2024) — пять принципов: инклюзивный рост, права человека, прозрачность, надёжность, подотчётность. Самый цитируемый необязывающий каркас: на него ссылаются почти все национальные стратегии.
  • UNESCO Recommendation on the Ethics of AI (2021) — документ, принятый всеми 193 государствами-членами: этическая экспертиза до запуска, запрет систем социального рейтинга, ответственность за экологический след вычислений.
  • Council of Europe Framework Convention on AI (CETS 225) (2024) — первый юридически обязывающий международный договор об ИИ. Рамочный: задаёт принципы прозрачности, подотчётности и равенства, детали оставляет национальным законам.

Европейский союз

  • AI Act — Regulation (EU) 2024/1689 — главный документ. Риск-ориентированный подход: запрещённые практики (ст. 5), требования к high-risk системам (ст. 8–15), надзор человека (ст. 14), прозрачность (ст. 50), постмаркетинговый мониторинг (ст. 72). Обязанности вводятся поэтапно до 2027 года.
  • GDPR — Regulation (EU) 2016/679 — не про ИИ, но именно он задаёт рамку для памяти системы: минимизация данных (ст. 5), сроки хранения (ст. 5(1)(e)), автоматизированные решения (ст. 22), оценка воздействия (ст. 35).
  • Product Liability Directive — Directive (EU) 2024/2853 — новая директива об ответственности за дефектный продукт, где software и ИИ прямо названы продуктом. Отвечает на вопрос «кто платит», когда агент ошибся.

США

  • Executive Order 14179 (январь 2025) — отменил прежний EO 14110 и развернул федеральную политику в сторону дерегулирования. Наглядный пример: рамка меняется быстрее, чем компании успевают переписать внутренние политики.
  • Colorado AI Act — SB 24-205 — первый закон штата о high-risk ИИ: обязанность разумной заботы, оценки воздействия, уведомление потребителей. Дату вступления переносили — проверяйте актуальную редакцию.
  • NYC Local Law 144 — автоматизированные инструменты найма: независимый аудит и уведомление кандидатов. Узко по охвату, зато действует с 2023 года и уже даёт практику правоприменения.

Китай

  • Interim Measures for Generative AI Services (в силе с 15 августа 2023) — регистрация алгоритмов, маркировка сгенерированного контента, ответственность провайдера за данные обучения. Один из самых жёстких режимов именно для генеративных систем.
  • Provisions on Algorithm Recommendation (2022) — прозрачность рекомендательных алгоритмов и право пользователя отключить персонализацию (ст. 17). Прямой аналог ст. 4 в части объяснимого следа.

Азиатско-Тихоокеанский регион

  • Korea — AI Basic Act (인공지능 발전과 신뢰 기반 조성 등에 관한 기본법) — рамочный закон, вступил в силу 22 января 2026: высокорисковые системы, обязанности операторов, господдержка внедрения. Первый комплексный закон региона.
  • Japan — AI Act (人工知能基本法, 2025) — противоположная философия: не запреты, а стимулирование внедрения и мягкое регулирование. Полезно для контраста: цель та же, инструменты другие.
  • Singapore — Model AI Governance Framework — добровольный практический фреймворк: объяснимость, управление данными, человеческий надзор. Много готовых процедур, которые берутся как чек-лист почти без адаптации.

Бразилия

  • PL 2338/2023 — законопроект об ИИ, одобренный Сенатом в декабре 2024 и ожидающий решения в Палате депутатов. Риск-ориентированная модель, близкая к европейской; вероятный первый комплексный закон Латинской Америки.

Россия

  • Указ Президента РФ № 490 от 10.10.2019 (в ред. 2024) — национальная стратегия развития ИИ до 2030 года: цели, принципы, показатели внедрения.
  • Национальный кодекс этики в сфере ИИ (2021) — добровольное саморегулирование: человекоцентричность, прозрачность, недопущение дискриминации. Подписан крупнейшими компаниями, юридической силы не имеет.
  • ГОСТ Р 59276-2020 — «Способы обеспечения доверия. Общие положения»: как подтверждать качество системы и что снижает доверие к ней. Практически единственный отечественный документ, где доверие описано как инженерная характеристика, а не лозунг.
  • ГОСТ Р 59277-2020 — классификация систем ИИ, в том числе по степени автономности и опасности последствий. Удобно, когда нужно формально очертить границы системы из ст. 1.
  • ФЗ-152 «О персональных данных» — для ст. 3: сроки хранения, согласие, права субъекта.

Стандарты и рамки управления

  • ISO/IEC 42001:2023 — система менеджмента ИИ (AIMS). По сути PDCA для ИИ: политики, роли, оценка рисков, внутренние аудиты. Требования сертифицируемые.
  • ISO/IEC 23894:2023 — управление рисками ИИ, привязанное к ISO 31000. Практическое дополнение к 42001.
  • NIST AI RMF 1.0 и Generative AI Profile (NIST AI 600-1) — четыре функции: GOVERN, MAP, MEASURE, MANAGE. Самый удобный каркас, если надо объяснить риск-процесс людям, которые не читают ISO.

Что с чем сверять

  • Ст. 1–2 (границы и отказ) — AI Act ст. 9 (risk management), ISO/IEC 42001 §6 (планирование), ГОСТ Р 59277 (классификация).
  • Ст. 3 (память и забвение) — GDPR ст. 5(1)(e) и 17, ФЗ-152 (сроки хранения).
  • Ст. 4 (объяснимый след) — AI Act ст. 12 (record-keeping) и ст. 19/26 (хранение логов), NIST MEASURE, Provisions on Algorithm Recommendation ст. 17.
  • Ст. 5–6 (подтверждение и остановка) — AI Act ст. 14 (human oversight) и ст. 26 (обязанности деплойера).
  • Ст. 7 (запрет самосохранения) — AI Act ст. 14(4)(e) (кнопка «стоп»), ст. 15 (robustness).
  • Ст. 8 (называть себя) — AI Act ст. 50 (прозрачность), Interim Measures ст. 12 (маркировка генерации).
  • Ст. 9 (человеческая ответственность) — AI Act ст. 26, PLD 2024/2853, ISO/IEC 42001 §5 (роли и полномочия).
  • Ст. 10 (предсказуемость) — AI Act ст. 15 (accuracy), ISO/IEC 42001 §8 (operation), NIST MANAGE.

Оговорка: часть перечисленных сайтов из России открывается нестабильно — EUR-Lex и порталы КНР регулярно отдают антибот-заглушки, российские правовые порталы могут быть недоступны из-за рубежа. Если ссылка не открылась, ищите акт по номеру: он указан в тексте ссылки.


Декларация — живой документ. Пункты уточняются по мере того, как системы становятся сложнее, а инциденты — конкретнее. Если вы проектируете агента и какой-то пункт кажется вам неудобным, скорее всего, именно он и защищает вас от следующего разбора полётов.

// обсуждение