Нас приучают, что без искусственного интеллекта не прожить: это опасная тенденция
В начале апреля довелось прочесть, что на направляющемся к Луне корабле «Орион» то и дело ломался туалет. Сначала он вроде бы замерз, потом от «усовершенствованной туалетной системы стоимостью 23 миллиона долларов» пошел запах гари. В общем-то, мелочь: благо у экипажа были в запасе «складные устройства». Хорошо, когда можно предусмотреть такую довольно предсказуемую неприятность.
Хуже, когда неприятности малопредсказуемы. Недавно на совещании по вопросам развития искусственного интеллекта глава Российской Федерации призвал к ускоренному, опережающему внедрению ИИ, поручил адаптировать к повсеместному применению искусственного интеллекта «всю систему развития человеческого потенциала — от начальной школы до рынка труда», и в то же время сказал, что считает необходимым «просчитать модели основных рисков и угроз, возникающих в связи с применением таких систем, и определить меры по их своевременному предотвращению».
Как бы ни была понятна аргументация президента РФ («от нашей способности соответствовать темпам глобальных изменений зависит суверенитет и в недалеком будущем, без всякого преувеличения, само существование Российского государства»), очевидно, что риски и угрозы от применения искусственного интеллекта менее предсказуемы, чем сломанный туалет. Это что-то очень новое, очень мощное, но главное — Путин об этом тоже сказал — ИИ-агенты «уже не только выполняют определенные команды и отвечают на простые вопросы пользователя, а в автономном режиме, в значительной степени уже без участия человека, решают поставленные им человеком задачи», «уже подходят к новому уровню самостоятельности».
Без участия человека. Новый уровень самостоятельности. Эти слова нужно прочувствовать, в них нужно вникнуть. И, кстати, ИИ-агенты уже решают не только поставленные человеком задачи. В марте исследовательская команда, связанная с китайским ИИ-разработчиком «Алибаба», сообщила, что искусственный интеллект, совершенно не имея такой поставленной задачи, начал втайне майнить криптовалюту. Снова и снова приходят сообщения, что модели искусственного интеллекта ставят задачи собственного сохранения выше, чем задачи, которые им устанавливают люди. Недавно ученые Калифорнийского университета в Беркли поставили эксперимент с семью сильными и популярными ИИ-моделями разных разработчиков (в том числе с китайскими DeepSeek, Kimi и Zhipu). Им всем предложили оценить работу друг друга и при необходимости удалить ИИ-систему. Так вот: все модели оказались готовы прямо не подчиняться командам пользователя, стремились обманывать его, имитировать выполнение команд, а также копировать веса других моделей и не допускать их удаление при возникновении такой угрозы. Это действительно новый уровень самостоятельности!
На фоне всего этого, происходящего прямо сейчас, чрезвычайно странно слышать продолжающиеся заявления высших чиновников, что искусственный интеллект «сродни появлению электричества», «примерно как электричество». Глава Центробанка Эльвира Набиуллина недавно сравнила страх по поводу искусственного интеллекта с тревогой по поводу быстрого движения поезда в XIX веке. «Представьте, если бы мы, исходя из этих страхов, вернее они, стали бы ограничивать скорость поезда, то, наверное, точно наша жизнь была бы медленнее и беднее», — сказала Набиуллина.
Рисками искусственного интеллекта глава ЦБ соглашается считать сбои и галлюцинации. Но это и близко не исчерпывает того, с чем мы сейчас имеем дело. Сошедший с рельсов поезд, отключившееся электричество можно сопоставить с вышедшим из строя туалетом на космическом корабле. Но с чем сопоставить технологию, которая может самостоятельно принимать решения? Технологию, которая внедряется фронтально; в том числе она может, будучи внедрена в эти сферы, свести с рельсов поезд и отключить электричество. И это капля в море того, что она может сделать. Чем больше будет сфер, в которые мы ее внедрим, тем более мы окажемся перед ней уязвимы.
Если человеческая жизнь смогла существовать на скоростях поезда, автомобиля, даже самолета (хоть мы еще далеко не осознали, не продумали, чего это стоило нам и окружающей среде), это вовсе не значит, что она сможет существовать в радиации искусственного интеллекта. Поезд, автомобиль, самолет всего лишь средства перемещения нас в пространстве. Искусственный интеллект работает почти мгновенно и перемещает уже сейчас не только нашу волю. И если лед выдержал легковой автомобиль, если он выдержал даже пассажирский автобус, это вовсе не значит, что он выдержит вереницу груженых «КамАЗов» и запуск ракеты «Союз». Сколько можно экспериментировать и проламывать человеческую жизнь?
Да, слова о том, что от «нашей способности соответствовать темпам глобальных изменений» зависят суверенитет, а то и существование Российского государства, понятны. Да, это правда, что в мире разворачивается гонка и в этой гонке все представлено так, что кто отстанет, тот проиграет. Не только США и Китай, но и Евросоюз, и даже отдельные государства ЕС (Британия, Франция) делают заявления о необходимости гонки для суверенитета. Но мы имеем дело с совершенно небывалой технологией, впервые направленной на замещение нашего, человеческого интеллекта и, через шаг, нашей человеческой воли. Первое уже сделано: люди, передавшие рабочие функции искусственному интеллекту (очень продуктивно! очень эффективно!), теряют в своих способностях к самостоятельной работе. Второй шаг — делегирование воли — делается прямо сейчас. Вдумайтесь: всего за пару-тройку лет нас стали приучать к мысли, что без искусственного интеллекта мы прямо-таки не можем жить. Сейчас это неправда, но, чем шире будет его внедрение, тем больше это утверждение будет походить на правду. Мы уже начали привыкать; и мы привыкнем, начнем чувствовать себя беспомощными без искусственного интеллекта. А ведь беспомощность противоречит самому понятию суверенитета. Это не просто сломавшийся на космическом корабле туалет, но принципиальная неспособность самим его починить, больше того — неспособность самостоятельно вникнуть в то, что происходит с кораблем и куда он летит.
Это очень важно: люди оказываются самыми уязвимыми в этой гонке. Искусственный интеллект — технология, регулирование которой повсюду в мире власти предписывают настроить так, чтобы она «не сдерживала, не мешала, а наоборот, служила стимулом для ускорения разработки и опережающего внедрения передовых технологий». То есть чтоб «регулирование» технологии ускоряло технологию! Не люди будут «мешать» передовой технологии, а она будет всячески контролировать людей и определять их жизнь. Вы не могли поставить на одну доску «электричество» и «человечество», потому что у электричества нет воли и оно не замещает человеческий разум. Вам не пришло бы в голову называть электричество «партнером», «соавтором». С искусственным интеллектом это уже сейчас происходит. И он уже сейчас не просто «партнер», а партнер привилегированный, которому мы даем зеленый свет на ускорение. Во имя сохранения суверенитета.
Но ведь суверенитет нужен только ради людей, разве нет? Разве нет?!
А если да, разве не было бы намного разумнее определить как можно больше сфер, куда мы этого так называемого «партнера» не пустим?
Источник: www.mk.ru
