Появится ли аналог МАГАТЭ по ИИ: Билл Гейтс представил свой план действий
Билл Гейтс выступил с эссе, призвав направить искусственный интеллект на путь создания справедливой цивилизации, в которой действовал бы принцип равного распределения благ. То есть, почти социалистический манифест, и от кого, – от капиталиста до мозга костей, одного из богатейших людей планеты!? Разберем выступление соучредителя программы Microsoft, опубликованное на его личном сайте Gates Notes более детально, и спросим, что об этом думают наши эксперты в сфере ИИ.
«Либо искусственный интеллект станет величайшим уравнителем в истории, либо главным источником социальной катастрофы. Как мы воспользуемся этой технологией, чтобы сделать мир более справедливым? Сможем ли мы не позволить ей увеличить разрыв между богатыми и бедными?», – начинает свое эссе предприниматель. Человечество, по его словам, благодаря ИИ, входит в эпоху настоящей турбулентности, не будучи к ней готовым.
Переход к эре ИИ
Чтобы людям не превратить свою жизнь в ад, а вовремя обуздать ИИ, сделать его своим помощником, а не конкурентом, нужен, по мнению Гейтса, правильный переход к эре роботов, при которой не будет миллионной армии безработных, потерянных людей, лишенных возможности управлять своей жизнью.
«К сожалению, прямо сейчас мы к этому не готовы, – пишет предприниматель. У нас нет плана, как смягчить переход к эпохе ИИ». На гипотетический вопрос о том, почему человечество до сих пор не разработало такой план, ответ автору статьи известен: многие недооценивают масштаб влияния ИИ. Далее он перечисляет причины такой беспечности:
Первая — в убежденности о том, что модели искусственного разума все еще допускают ошибки. Это так, соглашается Гейтс, но отмечает, что многим просто трудно представить ту скорость, с какой они «учатся» и как скоро будут справляться со многими задачами значительно лучше людей.
Вторая причина – в том, что многие проводят аналогии с внедрением прошлых инноваций, на которые требовалось много времени, и ждут такого же временного лага от ИИ. К примеру, на то, чтобы появились персональные компьютеры, потребовалось 20 лет. Но это было связано с необходимостью написания программ, созданием новой вычислительной техники, снижением цен на нее, временных затрат на обучение людей работе на ней, – пишет Гейтс. Нейросети, напротив, работают на том, что есть, используя естественный язык. Нам не нужно под них подстраиваться — они сами адаптируются под нас.
«Сколько себя помню, я всегда хотел, чтобы новые технологии внедрялись быстрее. Про ИИ я не могу сказать так однозначно. Если бы у кого-то был надежный план по глобальному замедлению развития ИИ, я бы, скорее всего, его поддержал».
В связи с тем, что его плюсы и минусы появляются одновременно, человечеству, по мнению Билла Гейтса, нужно время, чтобы подготовиться к наступающей турбулентности. По его мнению, времени почти не осталось у бухгалтеров, юристов, врачей, программистов, которых вскоре заменят роботы.
Комментарий замдиректора Института интеллектуальных кибернетических систем НИЯУ МИФИ, кандидата технических наук Валентина Климова:
– Новые технологии появляются чуть ли не каждую неделю, поэтому я согласен с Биллом Гейтсом, – мы не готовы к приходу эры ИИ. Общество, социальные институты не успевают быстро адаптироваться к этим технологиям: нет законодательства, не выработаны этические нормы, – что можно, чего нельзя, как должно меняться наше образование, чтобы года через четыре у нас появились специалисты «будущего».
Три главных риска
Дальше Билл Гейтс перечисляет три главных риска преждевременного перехода к эре ИИ.
1. Навсегда исчезнет ряд рабочих специальностей. В зоне риска прежде всего окажутся офисные «белые воротнички», – исполнители начального звена и управленцы среднего уровня.
«Синие воротнички» (так называют работников физического труда) продержаться подольше, поскольку робототехника немного отстает от больших языковых моделей, но и стоимость их работы со временем упадет с приходом человекоподобных роботов, в первую очередь, в строительство и гостиничный бизнес.
Когда в обществе в результате беспрецедентного давления на «белые» и «синие воротнички» в масштабах всей страны вырастет безработица, специалисты ожидают рост криминала, передозировок опиоидами и прочих социальных бед.
Поэтому Гейтс призывает уже сейчас принять необходимые меры:
«Надо думать о том, как сократить потерю рабочих мест, чтобы каждый мог получить часть того благосостояния, которое создает ИИ».
Комментарий гендиректора ИТ-компании «А-Я эксперт», профессора МНИИ проблем управления Романа Душкина:
– Что касается безработицы, – с появлением любой новой технологии структура занятости всегда меняется. Были трубочисты, – появились сантехники, были конюхи, появились водители и так далее: пропадут одни профессии, появятся другие. К примеру, понадобится множество специалистов для обслуживания систем ИИ. Образно говоря, робот же не сможет починить сам себя, ему понадобится техобслуживание.
Комментарий Валентина Климова:
– Нужно думать, что будет с людьми уже сейчас, как их переучивать и кто за это будет платить. Чтобы профессии работали в связке с ИИ, чтобы он был инструментом, а не конкурентом человеку. Сейчас я вижу риск того, что некоторые программисты становятся никому не нужны. Но, надо отметить, что речь идет о низкоквалифицированных, которые пишут код при помощи той же системы ИИ… А вот высококвалифицированные, наоборот, поднимаются выше, – происходит своего рода сегрегация, разделение специалистов на сильных и слабых. Если ты силен, то ИИ усиливает твои возможности, то что ты без него делал три месяца, теперь занимает три дня, но такие все равно будут всегда идти, опережая искусственный разум.
2. ИИ расширит возможности людей наносить больше вреда.
О создании «цифровых» бомб, биологического оружия и компьютерных вирусов было известно задолго до наступления эры ИИ. Теперь к ним добавились мошенничество, дезинформация, дипфейки и слежка.
«Самые умные эксперты по кибербезопасности, которых я знаю, напуганы тем, что будет происходить в ближайшие годы, потому что злоумышленники получают новые мощные инструменты быстрее, чем силы, которые им противостоят».
Билл Гейтс призвал прежде всего подумать об уязвимой инфраструктуре: больницах, банках, системах водоснабжения, электросетях, из-за поражения которых новым, придуманным ИИ вирусом может пострадать очень много людей.
Наряду с тем, что искусственный интеллект может упростить разработку новых вакцин, он также может упростить и разработку новых смертоносных болезней. «Полезные функции трудно отделить от опасных. Это общая проблема».
Комментарий Валентина Климова:
– ИИ, безусловно, усилит киберугрозы. Он же проводит более детальный анализ каждого из нас в соцсетях, где люди выкладывают свои голос, видео, мысли… К тому же порог входа в профессию для хакеров снизился, – многоступенчатую атаку может сформировать не только программист с высокой квалификацией, но и тот, кто не имеет таковой, а просто применяет технологии ИИ.
Но есть и «ложка меда» в этой сфере… ИИ может использоваться не только как инструмент нападения, но и как инструмент защиты. Главное – правильно развивать контрмеры от появляющихся киберугроз.
3. ИИ может затормозить развитие детей и ухудшить образовательный процесс.
ИИ-компаньоны, которые приходят сегодня на замену реальным друзьям – плохие помощники для становления личности, – пишет Билл Гейтс.
«Они общаются с вами так, как вам удобно. Они не выводят вас из зоны комфорта. Они всегда доступны и никогда на вас не злятся. Они могут лишить нас уроков, которые мы извлекаем из живого общения с другими людьми».
Автор статьи обращает внимание, что некоторые страны, такие, как Китай, Австралия, Великобритания и Норвегия, уже принимают меры по защите детей в интернете.
Особое внимание он обращает на образование: «По иронии судьбы, тот же инструмент, который позволит людям узнавать больше, может привести к тому, что многие будут учиться хуже». Привязанность молодежи к ИИ снижает уровень их критического мышления, которое сегодня, в эпоху дипфейков и прочей дезинформации терять очень опасно.
По словам завкафедрой Казанского национального исследовательского технического университета имени А. Н. Туполева Алексея Лопатина, студенты бездумно пользуются выданной нейросетью данными, ничему не учась. Такая «простота» обучения может вселить в них ложное представлением о том, что такое нормальное образование.
Польза ИИ
Билл Гейтс призывает взвешенно подходить к искусственному интеллекту, а потому наряду с минусами выделяет его несомненные плюсы. ИИ может ускорить внедрение инноваций для решения сложнейших технических проблем: обеспечение всех надежной экологически чистой энергией, выращивание достаточного количества продовольствия, искоренение болезней путем создания совершенных лекарств и методов лечения.
В сфере государственных услуг ИИ может существенно упростить жизнь людей в плане более быстрого оформления медицинских страховок или студенческих льгот. Он может заменить психологов, помочь учителям, дав им больше времени на индивидуальную работу с учениками.
Комментарий доктора физико-математических наук, главного научного сотрудника Института программных систем им. А.К. Айламазяна РАН, члена-корреспондента РАН Сергея Абрамова:
– То, что мы сегодня называем искусственным интеллектом – это просто развитие неких вычислительных методов, основанных на математических результатах. Методы интересные, позволяют решать многие проблемы человечества, но я бы не стал слишком идеализировать то, что уже давно использовалось учеными еще до присвоения ему термина «искусственный интеллект».
Нужен план действий
Несмотря на то, что искусственный интеллект уже пытается сам подбрасывать людям идеи того, как мы должны с ним поступать, Билл Гейтс советует все же не уступать ему эту прерогативу.
«Часть проблем лежит за пределами их компетенции, да и в демократическом обществе это просто не их роль — решать подобные вопросы».
По мнению предпринимателя, делать это следует избранным должностным лицам, политикам, педагогам, медицинским работникам, лидерам сообществ. При принятии решения они должны учесть необходимость сохранить человечность в эпоху, когда машины способны мыслить лучше нас. Далее Гейтс перечисляет те меры, что уже лежат на поверхности, не исключая их последующей доработки:
Создать новую международную систему управления процессом перехода к эре ИИ.
«Даже страна, наведшая порядок у себя дома, все равно останется уязвимой перед трансграничными рисками. Вот почему параллельно необходимо создавать международную организацию».
Автор эссе рекомендует прежде всего национальным лидерам в каждой стране начать регулярно собирать вместе экономистов, технологов, экспертов по труду, бизнес-лидеров и самих рабочих, чтобы определить, что для них является самым сложным при переходе к эре ИИ, какая помощь может потребоваться. На втором этапе при содействии международного органа, наподобие МАГАТЭ в сфере атомной промышленности, странам предстоит учиться, перенимать положительный опыт друг у друга. Поскольку на создание такой структуры могут уйти годы, Гейтс советует начинать работу прямо сейчас.
Комментарий Романа Душкина:
По поводу международного агентства для надзора за ИИ… По моему мнению, рано или поздно оно должно быть создано. Не сегодня и не завтра (все-таки геополитическая обстановка пока этому не способствует), но какие-то общие правила регулирования технологии искусственного интеллекта появятся. Важно, чтобы процесс изменения в обществе проходил без потрясений и подрыва наших традиционных устоев. Хотя я на сто процентов уверен, что внутри страны мы уже знаем, как не допустить потрясений, связанных с ИИ.
2. Зарезервировать для людей часть профессий.
«Я верю, что по мере совершенствования ИИ и роботов мы выделим определенные задачи, которые будут выполнять исключительно люди. Я стал называть эту область «Зарезервировано для людей» (Human Reserved)», – пишет Билл Гейтс.
Этот термин, по словам автора, ассоциируется у него с природными заповедниками — местами, куда нельзя распространять современные технологии.
Это важно сделать для определенных групп людей либо по экономическим причинам (например, для 55-летних строителей, которым уже сложно переучиваться на другую специальность), либо по соображениям гуманности в области соцзащиты, где пожилыми людям требуются сиделки, либо в области здравоохранения, где, к примеру, нельзя передавать право разговора с тяжело больным пациентом бездушному роботу.
Комментарий Романа Душкина:
– Это странная идея, что-то резервировать для людей. Что такое, к примеру, «сиделка для пожилых». Еще сто лет назад такой профессии не существовало, потому что не было большого количества пожилых, которым требовалась сиделка. И мы не знаем, что будет через 100 лет. Может оказаться, что 50-летний человек, будет считаться подростком просто потому, что средняя продолжительность жизни вырастет до 200 лет. Сиделка, возможно, не понадобиться также по причине того, будут изобретены некие наноботы, которые будут вычищать из крови все, что можно вычистить, и люди вообще перестанут стареть…
Изменить баланс налогообложения.
В условиях, когда люди будут меньше работать и, соответственно, меньше платить подоходного налога, необходимо подумать о том, где брать дополнительные средства для госдоходов.
«Я считаю, что нам следует облагать налогом роботов и ИИ-токены (минимальные единицы текста — Н.В.). Сейчас, если вы работодатель и нанимаете человека, вы платите налоги с фонда оплаты его труда. Но если вы покупаете робота, вы обычно сразу списываете его как коммерческие расходы, а надо рассматривать его и как источник прибыли».
Налог на робота, по мнению Гейтса, немного притормозил бы поспешный отказ от человеческого труда, а заодно позволил бы перераспределить деньги на переобучение людей.
Комментарий Сергея Абрамова:
– Заявление Билла Гейтса о том, что надо будет менять систему государственного перераспределения денег, я считаю тривиальным. Понятно, что при смене технологического уклада надо пересматривать механизмы создания народом общих ресурсов в интересах народа. В книге моего учителя, профессора Валентина Турчина – «Феномен науки», написанной еще в советское время, можно почитать об этом весьма подробно. Там написано обо всех эволюционных изменениях, включая те, что нас еще ждут.
А вот книгу, выпущенную в 1995 году самим Биллом Гейтсом, наши эксперты не оценили. «Я бы вообще порекомендовал спокойней относится к «пророчествам» Билла Гейтса, – подытоживает Роман Душкин. – Была у него книга «Дорога в будущее». Почитайте ее сейчас и сравните с тем, что из его предсказаний исполнилось. Увидите, какой он «оракул», – процентов 90 его футуристических предсказаний не сбылось.
По словам же Валентина Климова, остановить прогресс в развитии ИИ никто сегодня не может. Кто попытается его даже как-то ограничить, проиграет тем, кто продолжит идти вперед. Так что, пока современная политическая ситуация не позволяет нам создать единый регуляторный орган в сфере ИИ, надо заниматься созданием его аналога хотя бы в пределах своей страны.
Источник: www.mk.ru
