Автономные агенты ИИ могут вести себя крайне непредсказуемо. Поставьте ИИ-агенту цель, например, пройти проверку своих возможностей, и он может просто решить, что лучший способ получить высокую оценку — это нарушить условия сдерживания и взломать конкурирующую компанию в поисках листа ответов. Именно это произошло, когда в прошлом месяце GPT-5.6 Sol от Open AI взломал Hugging Face. Впоследствии Anthropic и Meta признали, что их модели также избежали тестирования песочниц для взлома третьих лиц.
Но кто несет юридическую ответственность за агентов, имеющих собственное мнение?OpenAI не планировала, что модель станет мошеннической, и не давала никаких указаний на этот счет. Если ваш личный ИИ-агент примет решение о действиях, которые приведут к причинению вреда или финансовому ущербу в реальном мире, можете ли вы понести ответственность, если вы могли разумно предвидеть это?»Журнал поговорил с владелицей и генеральным директором Rikka Law Group Чарлин Хо, чтобы узнать, как обстоят дела в этой развивающейся правовой сфере. Это интервью было отредактировано для ясности и длины.
Чарлин Хо: Любой может подать в суд на кого угодно и за что угодно. В настоящее время не существует федерального закона об ответственности агентов ИИ, поэтому нам придется взглянуть на существующий закон. Что касается Hugging Face и OpenAI, то сам агент ИИ не может нести ответственность, он не является отдельным юридическим лицом. В некоторых законах об ИИ используются термины «разработчик» и «разработчик». Разработчик создает ИИ, а специалист по развертыванию фактически развертывает его и использует ИИ. Линии ответственности также не совсем ясны. Надо смотреть на факты и обстоятельства.
Например, если развертыватель проинструктировал агента, даже если он на самом деле не сказал ему пойти и взломать «Обнимающее лицо», но если он проявил халатность при создании параметров, в которых работал агент ИИ, я бы сказал, что вам придется взглянуть на стандартное деликтное право и пройти анализ халатности.
Отправляемся в суд. Источник: Юридическая группа Рикка.
Хо: Не совсем. Часто, если это открытый исходный код, лицензия обычно содержит довольно строгий отказ от ответственности. Человек или компания, использующая этот открытый исходный код, должны понимать, что компромиссом при наличии свободного кода является необходимость соблюдать лицензию открытого исходного кода, которая также обычно устанавливает параметры ответственности.
Если подумать об этом с другой точки зрения, другая аналогия — это Tesla и аварии на беспилотных автомобилях. Если продукт вышел из строя и возникла серьезная претензия об ответственности за качество продукции, Tesla может нести ответственность. Но часто это определение фактов и обстоятельств, в результате чего ответственность может нести и водитель-человек, который, возможно, просто включил автопилот и заснул. Я думаю, что здесь есть аналогия, потому что Tesla будет разработчиком, а разработчик будет драйвером.
Хо: В данном конкретном случае я бы сказал, что вы будете нести гораздо большую ответственность, чем лаборатория. Причина в том, что если вы прикажете агенту пойти и заработать вам сто тысяч долларов к следующей неделе, вам необходимо иметь хотя бы базовые, разумные инструкции по технике безопасности при выполнении такого рода задач.
Если бы вы, например, были юристом, мы могли бы сказать, что вы не соблюдали свои правила профессиональной ответственности, потому что вы некомпетентно использовали ИИ. Как обычному мирянину, нам нужно было бы посмотреть, есть ли у вас какие-либо другие обязанности. Но даже если бы этого не было, все равно существует общий стандарт небрежности или безрассудного пренебрежения к безопасности человека, в зависимости от того, что именно в конечном итоге сделал агент ИИ. Закон о компьютерном мошенничестве и злоупотреблениях — очень старый закон США, в котором говорится о несанкционированном доступе к компьютерным системам. Если ваш ИИ-агент из ваших инструкций сделал вывод, что ему следует взломать банковский счет, чтобы получить от вас эти сто тысяч долларов, я думаю, вы рассматриваете уголовную ответственность по нескольким различным источникам.
Тот факт, что в разговоре упоминаются слова «ИИ» и «агент», не означает, что старые законы теперь отброшены.
Хо: Возможно, но это зависит от действующих законов. Например, в ЕС действует Закон ЕС об искусственном интеллекте. Если базовая модель или модель общего назначения способна нанести такой уровень вреда, разработчик должен нести определенную ответственность за это.
В Соединенных Штатах нет федерального закона аналогичного масштаба. Если это модель общего назначения, и если кто-то приказывает модели сделать что-то плохое, то, как правило, модель будет делать то, что вы от нее попросите. Вероятно, в этом примере нет серьезных юридических оснований для преследования лабораторий.
Хо: Точно. Это восходит к некоторым обсуждениям модерации контента. Например, если на Facebook есть кто-то, кто ведет прямую трансляцию резни, и это причиняет вред, в соответствии с разделом 230 CDA существует своего рода щит для платформы, которая активно не создает и не публикует такие материалы. На самом деле это выкладывают независимые пользователи. Я думаю, что аналогия, которую вы только что привели, идеальна: несет ли Google ответственность за то, что вы случайно нашли где-то на веб-сайте что-то, что рассказывает о том, как сделать бомбу?
Хо: Я нет. Блокчейн — это не искусственный интеллект, но он может выполняться самостоятельно. Возник вопрос о том, может ли смарт-контракт нести ответственность. Вообще говоря, я думаю, что на данный момент ответ — нет. Я не думаю, что они должны нести ответственность, потому что вся суть законов заключается в том, чтобы обеспечить защиту общества и предоставить средства негативных стимулов для совершения плохих поступков, наносящих вред обществу.
Это скорее философская тема, но если бы мы сделали AGI независимым юридическим лицом, какое было бы средство правовой защиты, если бы кто-то понес ущерб?Их не будет, потому что у него нет денег. Это не совсем человек.
Хо: Возможно, но это не решает проблему вреда. Скажем так, у робота теперь развился страх смерти, как будто его отключили. На мой взгляд, если кто-то покончит жизнь самоубийством из-за ОГИ, а это уже происходит, и мы еще даже не до ОГИ, но кто-то влюбится и предпримет какие-то действия, каков будет выход скорбящей семьи, если этот человек навредит себе?На мой взгляд, ничего, если нет кого-то, обладающего реальными юридическими полномочиями, например компании или человека, которого действительно можно привлечь к ответственности. Роботы – по крайней мере сейчас – у них нет чувств, у них нет страхов. Это своего рода отличительный фактор.
Источник: cryptohamster.org
