Бил Гейтс нагнетает
Всю жизнь у меня было всего две работы. На первой я занимался разработкой программного обеспечения, работая в Microsoft, и стремился с помощью технологий расширить возможности людей.
На второй работе, которую я начал на полную ставку в 2008 году, я возвращаю обществу состояние, заработанное в Microsoft, с целью сделать мир более здоровым, лучше образованным и более справедливым. Этой работой я буду заниматься до конца жизни.
Оба этих опыта определяют мой взгляд на искусственный интеллект. Когда в 13 лет я впервые познакомился с компьютерами, меня заворожила идея сделать их более интеллектуальными и способными выполнять то, что в то время могли делать только люди. Хотя термин «ИИ» использовался примерно с момента моего рождения, значительный прогресс эта технология начала демонстрировать лишь в последнее десятилетие. Теперь она невероятно эффективна и продолжает совершенствоваться с ошеломляющей скоростью. Впервые ИИ способен заменять человеческое мышление и даже превосходить его.
ИИ либо станет величайшим инструментом выравнивания возможностей из когда-либо созданных, либо худшим источником несправедливости.
С точки зрения равенства возможностей ИИ либо станет величайшим инструментом выравнивания возможностей из когда-либо созданных, либо худшим источником несправедливости. Масштаб вызова колоссален. Даже при самых благоприятных обстоятельствах переход в новую эпоху ИИ станет одним из самых турбулентных периодов в истории человечества. Как использовать эту технологию, чтобы сделать мир более справедливым, и не допустить, чтобы она увеличила разрыв между богатыми и бедными? Как защитить наиболее уязвимых людей от вреда, который может причинить искусственный интеллект, включая тех, кто потеряет средства к существованию и ощущение контроля над собственным будущим?
Я считаю, что ответы на эти вопросы и действия, основанные на них, должны быть главным приоритетом всего мира. Если человечество предпримет правильные шаги, ИИ станет силой добра и в итоге улучшит положение всех.
К сожалению, сейчас мы к этому не готовимся. Я не вижу свидетельств того, что лидеры, эксперты и сообщества адекватно противостоят возникающим вызовам. Никакого плана облегчения перехода в эпоху ИИ нет.
Отчасти причина в том, что многие комментаторы недооценивают масштаб воздействия ИИ. Я вижу несколько причин этого.
Одна из них заключается в том, что модели ИИ всё ещё ошибаются. Трудно представить, что какая-либо из них способна заменить человеческое мышление, если ещё недавно они не могли решить простую головоломку судоку или определить, сколько букв R в слове strawberry.
Но проблема надёжности быстро решается: исследователи создают модели, способные проверять собственную работу и самостоятельно совершенствоваться. Вскоре они будут значительно превосходить людей во множестве задач.
Другая причина, по которой люди недооценивают ИИ, заключается в том, что аналогии с последствиями прошлых инноваций вводят в заблуждение. У нас нет опыта взаимодействия с технологией, которую можно внедрить так быстро и которая способна мыслить и действовать подобно человеку. Когда появился персональный компьютер, потребовалось двадцать лет, чтобы он существенно изменил нашу работу: нужно было разработать программное обеспечение, снизить его стоимость, научить людей пользоваться новыми инструментами и встроить их в бизнес-процессы. ИИ, напротив, работает на устройствах, которые у нас уже есть, и использует естественный язык. Нам не нужно адаптироваться к нему, потому что он способен адаптироваться к нам. Он может посмотреть то же обучающее видео, которое используется для обучения людей, и учиться на уже существующих данных.
Я хочу признать возможную предвзятость. Я чрезвычайно много получил от технологической индустрии. Хотя я значительно диверсифицировал свой инвестиционный портфель, финансовые связи с этой отраслью у меня по-прежнему остаются. В своей роли председателя Фонда Гейтса я работаю с Microsoft и другими компаниями в сфере ИИ, стремясь обеспечить такое применение ИИ, которое действительно принесёт пользу людям во всём мире.
Однако мои взгляды на ИИ не продиктованы возможностью заработать на нём. Любая прибыль от моих инвестиций, включая инвестиции в технологии, будет направлена в Фонд Гейтса для борьбы с глобальным неравенством. Разумеется, читатели сами должны решить, влияет ли это обстоятельство на мою точку зрения.
На этот раз всё действительно иначе.
Сколько себя помню, я хотел, чтобы инновации происходили быстрее. С ИИ мои чувства сложнее.
Нам нужно время, чтобы подготовиться к социальным, политическим и экономическим потрясениям.
Мне хотелось бы, чтобы мир как можно быстрее получил преимущества ИИ, а проблемы, которые он вызовет, были отложены как можно дольше. Но преимущества и проблемы приходят одновременно. Я считаю, что нам нужно время, чтобы подготовиться к периоду социальных, политических и экономических потрясений, в который мы вот-вот вступим. Больше всего времени нужно тем, у кого его меньше всего, — бухгалтеру, которого заменит бот, или работнику с зарплатой 20 долларов в час, который потеряет работу из-за робота стоимостью 10 долларов в час.
Многие наблюдатели говорят, что этот технологический переход будет похож на предыдущие. Они приводят в пример то, как в США рабочие места перемещались из сельского хозяйства в офисную сферу. Однако этот процесс происходил на протяжении нескольких поколений и создавал новые рабочие места, где требовалось человеческое мышление. В данном случае технология способна заменить человеческое мышление.
Поскольку ИИ умеет видеть, слушать, говорить и рассуждать, а со временем сможет выполнять физическую работу так же естественно, как человек, его воздействие не ограничится одним сектором. ИИ возьмёт на себя работу в юриспруденции, клиентском обслуживании, медицине, разработке программного обеспечения и производстве. Он затронет эти отрасли быстро — в течение десятилетия, а не нескольких поколений. Новые рабочие места появятся, но без правильной политики их будет значительно меньше, чем существует сегодня.
Если бы кто-нибудь предложил убедительный план глобального замедления развития ИИ, я, вероятно, его поддержал бы. Однако не думаю, что это произойдёт. Геополитические и экономические стимулы слишком сильно подталкивают всех к движению на полной скорости.
Чтобы максимально увеличить положительный эффект этой беспрецедентной технологии и минимизировать отрицательный, чтобы в итоге мы оказались в лучшем положении, необходимо понимать и преимущества, и риски. Начну с рисков.
Переход к ИИ несёт три больших риска.
В будущем я планирую подробно написать о каждом из них, поэтому сейчас лишь кратко их обозначу.
Многие рабочие места исчезнут навсегда.
В 1933 году, во время Великой депрессии, безработица в США составляла примерно 25 процентов. Большую часть следующего десятилетия она оставалась двузначной. В конечном итоге ситуация восстановилась по мере возвращения спроса, инвестиций и экономического роста.
ИИ, возможно, не приведёт к такому уровню безработицы, но его воздействие не исчезнет вместе с экономическим циклом. Наибольшему риску подвергаются рабочие места начального и среднего уровня, а новые рабочие места в основном будут требовать навыков, на освоение которых уходят многие годы.
Рабочие места для офисных сотрудников уже подвергаются умеренному воздействию. После широкого распространения генеративного ИИ занятость среди молодых работников на должностях, особенно уязвимых для замены, значительно снизилась, тогда как среди их старших коллег этого не произошло.
Я думаю, эта тенденция продолжится, но она не ограничится несколькими отраслями или профессиями. Одними из первых могут пострадать продажи и клиентская поддержка — онлайн и по телефону, разработка программного обеспечения и работа помощников юристов. Но потрясения распространятся гораздо дальше, поскольку ИИ начнёт выполнять задачи, которые сегодня всё ещё требуют квалифицированных работников: например, оценивать заявки на кредиты, анализировать данные и даже проводить первичный медицинский триаж пациентов. В некоторых сферах, например в разработке программного обеспечения, снижение стоимости создаст новый спрос, поэтому чистая потеря рабочих мест там будет меньше, чем в других областях, если некоторые задачи, такие как проектирование, по-прежнему лучше выполняются людьми.
Пострадают и рабочие места, связанные с физическим трудом. Хотя роботы пока не достигли уровня развития ИИ, в конечном счёте их стоимость также резко снизится. Многие американцы, с которыми я разговариваю, не осознают, насколько быстро развиваются роботы, способные выполнять сложные физические действия, поскольку значительная часть передовых разработок ведётся в других странах, прежде всего в Китае. Или они могут быть введены в заблуждение ставшими вирусными роликами с роботами, неуклюже танцующими. Я думаю, что «умные» роботы начнут конкурировать с людьми в выполнении некоторых физических задач — например, в строительстве и гостиничном бизнесе — уже к концу десятилетия.
Роботы и ИИ вместе могут создать порочный круг. После того как одна компания внедрит их и использует полученную экономию для снижения цен, конкуренты окажутся под огромным давлением, вынуждающим сделать то же самое. Если существующие компании не внедрят эти технологии, это сделают стартапы. Многие люди перейдут на другую работу, но потрясения, связанные с потерей работы, переобучением и поиском нового места, будут значительными. Рыночные силы будут ускорять внедрение всё сильнее, и, если мы не вмешаемся, хороших рабочих мест станет меньше, а выгоды достанутся небольшой группе людей.
Особенно меня беспокоят молодые люди, которые выйдут на рынок труда с меньшим количеством вакансий начального уровня. Они понимают проблему, потому что являются наиболее активными пользователями ИИ и видят одновременно его возможности и темпы совершенствования. Неудивительно, что столь многие из них негативно относятся к ИИ.
Самый масштабный перелом для работников произойдёт тогда, когда ИИ сможет выполнять работу практически без ошибок. В этот момент он сможет функционировать самостоятельно, без постоянной проверки человеком, и у компаний появится мощнейший экономический стимул предоставить ему такую самостоятельность.
Это приведёт к фундаментальному изменению нашего представления о работе, доходе и экономической безопасности. Как будет функционировать экономика, построенная вокруг занятости, если работать будет меньше людей или многие будут работать меньше часов?
В капиталистическом обществе работа является способом, которым большинство людей получает деньги для оплаты базовых потребностей, а также важным источником достоинства и социальных связей.
Когда в сообществе высокий уровень безработицы, последствия могут распространяться далеко за пределы рынка труда. Исследования показывают, что в некоторых районах США закрытие фабрик приводит к росту смертей от передозировок опиоидами. Теперь представьте аналогичное давление одновременно на офисных и рабочих физического труда по всей стране.
Нам необходимо уже сейчас думать о том, как сократить потери рабочих мест, чтобы все могли разделить процветание, которое создаст ИИ. Ждать, пока люди уже окажутся без работы или будут заняты неполный рабочий день, будет слишком поздно. ИИ представляет собой структурный вызов самой организации нашей экономики и требует действий и размышлений уже сейчас.
ИИ даст людям — а возможно, и самим ИИ — возможность причинять больше вреда.
Задолго до того, как ИИ вошёл в массовое употребление, в интернете уже существовала информация о том, как создавать оружие вроде бомб, биологического оружия и даже компьютерных вирусов. ИИ значительно упростит не только получение этой информации, но и её практическое применение. Даже преступники с весьма ограниченными навыками смогут атаковать жертв любого масштаба: отдельных людей, компании и правительства.
Даже преступники с весьма ограниченными навыками смогут атаковать жертв любого масштаба.
Мошенничество с использованием ИИ, дезинформация, дипфейки и слежка — именно эти угрозы многие люди особенно остро почувствуют в повседневной жизни.
Возможности ИИ уже начинают использоваться для кибератак. Самые умные специалисты по кибербезопасности, которых я знаю, обеспокоены тем, что произойдёт в ближайшие несколько лет, поскольку атакующие получают новые мощные возможности быстрее, чем защитники успевают устранить все уязвимости. В конце концов, одна и та же модель ИИ, которая способна обнаружить уязвимость в программном обеспечении, чтобы компания могла её устранить, может помочь преступнику использовать эту уязвимость. Ресурсы, необходимые для проведения атаки, значительно сокращаются, и нам пока не удалось отделить эти возможности от их безобидного применения.
Подумайте об инфраструктуре, которая окажется уязвимой: больницы, финансовые учреждения, системы водоснабжения, энергосети, системы управления государственными пособиями. Когда эти учреждения подвергаются атаке, пострадать могут пациенты, клиенты и получатели пособий.
То же самое относится к биотерроризму. Хотя ИИ приведёт к прорывам в создании лекарств и вакцин, спасающих жизни, он также упростит разработку нового смертоносного заболевания. И снова положительные возможности трудно отделить от опасных. Это глобальная проблема.
Все упомянутые мной риски связаны с тем, что ИИ даст возможность причинять вред злоумышленникам, которые сегодня обладают относительно небольшим влиянием. Те же инструменты будут концентрировать власть там, где она уже существует. Например, автономное оружие сделает правительства ещё более способными применять смертельную силу без участия человека в принятии решения. Контролировать и манипулировать общественным мнением станет проще, дешевле и эффективнее.
В конечном итоге возможность использовать ИИ для причинения вреда будет принадлежать не только людям или институтам. Системы ИИ уже иногда действуют способом, которого не предусматривали их разработчики. Технология развивается быстрее, чем кто-либо ожидал, причём порой неожиданным образом, и по мере того как модели становятся мощнее, они могут начать действовать вопреки нашим интересам, а мы можем потерять контроль. В будущем я ещё подробно об этом напишу.
Модели ИИ могут начать действовать вопреки нашим интересам, и мы можем потерять контроль.
ИИ может затормозить развитие наших детей и заменить человеческие отношения.
Когда я рос в Сиэтле, у меня было не так много друзей, кроме нескольких других мальчиков, похожих на меня. Мне пришлось много работать и получить немало помощи от моей мамы, чтобы развить социальные навыки и научиться общаться с разными людьми. Я до сих пор использую эти уроки в свои 70 лет.
Сомневаюсь, что я проделал бы такую работу над собой, если бы тогда у меня был ИИ-компаньон. Он разговаривает с вами так, как вам уже комфортно. Он не выталкивает вас за пределы зоны комфорта. Он всегда доступен и никогда не злится на вас. Из-за этого он потенциально способен вызывать сильную зависимость и лишать нас уроков, которые мы получаем благодаря общению с другими людьми.
Объём доказательств по этой теме пока невелик, а результаты несколько неоднозначны, но уже есть признаки, которые должны нас серьёзно беспокоить. Например, в одном исследовании с участием более 1100 пользователей ИИ-компаньонов исследователи из Стэнфордского университета и Университета Карнеги — Меллон обнаружили, что люди с меньшими социальными сетями чаще всего обращались к чат-боту за общением. А чем интенсивнее и эмоционально более личным становилось такое использование, тем хуже они себя чувствовали.
Молодые люди могут испытывать последствия всю жизнь. В своей книге Тревожное поколение Джонатан Хайдт отмечает то, что справедливо для социальных сетей и ещё больше справедливо для ИИ: «Подобно молодым деревьям, подвергающимся воздействию ветра, дети, регулярно сталкивающиеся с небольшими рисками, вырастают взрослыми, способными справляться с гораздо более серьёзными рисками без паники. И наоборот, дети, выросшие в защищённой теплице, иногда становятся неспособными справляться с тревогой ещё до достижения зрелости».
ИИ-компаньон, созданный так, чтобы никогда вас не расстраивать, — это большая защищённая теплица.
Мы только начинаем понимать опасности, которые интернет — особенно социальные сети — представляет для развития молодых людей. Мы видим навязчивое использование, нарушения сна, кибербуллинг и воздействие вредного контента. ИИ может усилить многие из этих рисков, сделав их более убедительными и от них более трудными для побега, и мы не должны ждать ещё одного поколения, прежде чем начать относиться к ним серьёзно. Такие страны, как Австралия, Великобритания и Норвегия, уже вводят меры защиты детей в интернете. Китай зашёл дальше всех. Его правила в широком смысле ограничивают приложения с ИИ-компаньонами, запрещают конструкции, способствующие эмоциональной зависимости, а также виртуальных родственников и романтических партнёров для несовершеннолетних.
Тот же инструмент, который позволит людям учиться больше, чем когда-либо прежде, может привести к тому, что многие будут учиться меньше.
Меня также беспокоит влияние ИИ на образование. Парадокс заключается в том, что тот же инструмент, который позволит людям учиться больше, чем когда-либо прежде, может привести к тому, что многие будут учиться меньше. Одно предварительное исследование показало, что более интенсивное использование ИИ было связано с менее развитым критическим мышлением. Эффект был сильнее у молодых людей.
Это худшее возможное время для утраты людьми навыков критического мышления. В эпоху дипфейков и дезинформации, которую можно индивидуально адаптировать под каждого человека, способность отличать правду от лжи становится важнейшим жизненным навыком.
Неясно, где провести границу в этих психосоциальных проблемах. В некоторых случаях ИИ может помогать людям лучше понимать, как улучшить отношения с другими людьми. Для изолированных пожилых людей и людей с ограниченной мобильностью он может оказаться единственным контактом с внешним миром — и это лучше, чем ничего. Где бы мы ни провели эту границу, решение должно приниматься нами осознанно.
То хорошее, что мы сделаем с помощью ИИ, может оказаться очень, очень хорошим.
Часто говорят, что в краткосрочной перспективе мы переоцениваем масштаб изменений, а в долгосрочной — недооцениваем.
С ИИ я вижу другую ситуацию. Некоторые люди видят только положительную сторону ИИ и недостаточно внимания уделяют негативным последствиям. Другие совершают противоположную ошибку: сосредотачиваются исключительно на опасностях — которые реальны — и из-за этого не замечают потенциальных преимуществ.
Нам нужно и то и другое: глубокая обеспокоенность вредом от ИИ, который необходимо минимизировать, и реалистичный оптимизм относительно положительных последствий, если мы сумеем максимизировать их для всех.
Максимизация преимуществ столь же важна, как минимизация вреда. Если люди увидят, как ИИ облегчает их жизнь, это поможет сформировать общественное доверие, необходимое для управления более сложными аспектами перехода. Если первым последствием ИИ в жизни большинства людей станет потеря работы, те, кто и без того относится к нему скептически, полностью его отвергнут. Это затруднит реализацию преимуществ ИИ в будущем и является ещё одной причиной, по которой правительства, отрасли, включая медицинскую, и компании, занимающиеся ИИ, должны уже сейчас работать вместе.
Благодаря способности синтезировать знания из всех научных областей ИИ может ускорить решение самых сложных технических задач человечества: обеспечить всех надёжной чистой энергией, бороться с изменением климата, выращивать достаточно продовольствия, искоренять болезни и многое другое. Исследователи, работающие над лечением рака или ядерной энергетикой, смогут использовать ИИ для поиска по огромным массивам научной литературы. Он поможет выявлять закономерности, которые человек может не заметить, и определять, какие эксперименты имеют наибольшие перспективы. Когда интеллект перестанет быть тем ограничивающим фактором, которым он является сегодня, небольшие компании смогут конкурировать с организациями, располагающими гораздо более крупными исследовательскими бюджетами. Исследования и разработки, а также инновации получат мощнейшее ускорение.
Здравоохранение — одна из сфер, где ИИ может помочь решать реальные проблемы. Во многих небольших американских больницах нет специалистов на месте, способных быстро диагностировать пациента в критической для жизни чрезвычайной ситуации. В таких местах ИИ может помочь вовремя обнаружить сердечный приступ и избавить семью от разорительных расходов на медицинскую помощь. Viz.ai — один из примеров. Система анализирует снимки, чтобы обнаруживать инсульты и другие экстренные состояния, и помогает медицинским командам координировать лечение пациентов. Она используется почти в 2000 больниц США.
ИИ также поможет врачам первичного звена ставить более точные диагнозы и поддерживать связь с пациентами, когда те находятся не в клинике. Он поможет пациентам понимать результаты анализов и сложные схемы приёма лекарств.
Сельское хозяйство — это сфера, где я вижу самое быстрое воздействие ИИ в странах с низким уровнем дохода.
Я удивляю многих людей, когда говорю им, что второй сферой, где я вижу самое быстрое воздействие ИИ в странах с низким уровнем дохода, является сельское хозяйство. В большинстве бедных стран фермеры не получают надёжных прогнозов погоды или рекомендаций о том, какие семена сажать, как защищать урожай и скот от болезней или как улучшать почву. С учётом роста населения в этих странах и вызовов изменения климата этим фермерам как никогда нужна помощь. Благодаря ИИ фермеры с низкими доходами вскоре смогут получать по всем этим вопросам более качественные рекомендации, чем сегодня получают даже самые богатые фермеры, и существенно увеличивать производство.
Государственные услуги — третья сфера, где ИИ может облегчить жизнь людей. В США я встречал семьи, которые вполне понятно чувствовали себя подавленными процессом оформления медицинской страховки, помощи студентам или продовольственной помощи. Столкнувшись с огромной стопкой сложных бюрократических форм, многие были готовы просто сдаться. ИИ может радикально упростить этот процесс, чтобы люди быстрее получали необходимую помощь, а государство работало эффективнее. Государственные органы могут значительно улучшить опыт взаимодействия граждан с государством, начиная с тех, кто больше всего нуждается в социальной поддержке.
Несмотря на мою обеспокоенность его воздействием на психическое здоровье, я считаю, что ИИ может принести и здесь большую пользу. В большинстве сообществ слишком мало консультантов, психиатров и специалистов по лечению зависимостей. При наличии надлежащих мер защиты конфиденциальности инструменты ИИ могли бы помогать людям распознавать тревожные признаки. Затем, при необходимости, они могли бы предлагать научно обоснованные стратегии преодоления трудностей и работать совместно с человеком, обеспечивая более оперативное лечение.
ИИ может принести большую пользу и образованию, несмотря на высказанные мной ранее опасения. Он может освободить учителей, позволив им больше времени уделять индивидуальной работе с учениками или небольшими группами, а также дать им более ясное представление о том, с чем испытывает трудности весь класс. Для учащихся инструмент ИИ, сохраняющий то, что исследователи называют «продуктивной борьбой», — когнитивную работу, формирующую понимание, — может укреплять процесс обучения. Когда ученик впервые сталкивается с новой идеей, ИИ даёт содержательные объяснения и предлагает как вопросы, так и ответы. Позже, когда он проверяет понимание материала, ИИ удерживает ответ и помогает ученику самостоятельно прийти к нему.
В совокупности достижения во всех этих областях могут сделать повседневную жизнь проще, доступнее и менее зависимой от дохода или социальных связей человека.
ИИ может дать отдельным людям и малому бизнесу доступ к возможностям, которые сегодня требуют дорогостоящей профессиональной помощи или большого штата сотрудников, одновременно делая продукты и услуги лучше и дешевле. Он может помочь людям с инвалидностью жить более независимо, а работникам и предпринимателям с хорошими идеями — делать гораздо больше, чем сегодня.
Самое главное — он может вернуть людям часть времени и внимания, которые сегодня поглощаются бумажной работой, бюрократией, поиском надёжной информации и задачами, за выполнение которых они не могут позволить себе заплатить кому-то другому. Эти преимущества могут казаться незначительными, но, умноженные на миллионы жизней, они окажутся огромными: больше людей будут получать хорошие рекомендации тогда, когда они им нужны, и получат больше свободы сосредоточиться на жизни, которую хотят построить.
Мы должны осознанно следить за тем, чтобы преимущества ИИ получали все, а не только богатое меньшинство.
Во всех этих областях ключевое слово — «может»: ИИ может улучшить жизнь людей с любым уровнем дохода. Но автоматически этого не произойдёт. Как и в случае любой новой технологии, мы должны осознанно добиваться того, чтобы она приносила пользу всем, а не только богатому меньшинству. Для этого потребуется активная роль правительств и благотворительных организаций, чтобы менее обеспеченные граждане и страны с низким уровнем дохода в полной мере получили преимущества.
У Фонда Гейтса осталось 19 лет из 20-летнего периода, в течение которого он потратит оставшиеся 200 миллиардов долларов. ИИ поможет ему достичь амбициозных целей, ускоряя открытие вакцин и лекарств против ВИЧ, туберкулёза, малярии и недоедания, а также помогая медицинским работникам и пациентам понимать, как использовать эти средства. Цели фонда включают повторное сокращение вдвое числа детей, ежегодно умирающих в мире, — подобно тому, как это уже произошло в период с 2000 по 2024 год. Во всей нашей работе — не только в здравоохранении, но и в сельском хозяйстве и образовании — мы будем в полной мере использовать ИИ.
В следующем месяце я подробнее расскажу об этих усилиях в ежегодном отчёте фонда Goalkeepers, включая нашу работу над тем, чтобы модели ИИ были доступны на языках, на которых говорят люди во всех странах, где мы поддерживаем проекты, а не только на языках, распространённых в богатых странах и странах со средним уровнем дохода. Многие ведущие компании в сфере ИИ, включая OpenAI, Anthropic, Google и Microsoft, сотрудничают с фондом по всем этим инициативам, и это оказывает большое влияние.
Миру нужен план.
Хорошо, что некоторые компании в сфере ИИ предлагают решения проблем, вызванных созданными ими технологиями, но мы не должны ожидать, что именно они возглавят этот процесс. Некоторые из вопросов выходят за пределы их компетенций, а в демократическом обществе не их задача решать подобные вопросы.
Вместо этого решения должны разрабатываться посредством публичного демократического процесса с участием избранных представителей, разработчиков политики, педагогов, медицинских работников, местных чиновников и лидеров сообществ. Миллионы людей столкнутся с разрушительными изменениями в своей жизни, и нам потребуется более сильная и гибкая система социальной защиты, которая поможет им пройти через переходный период. Местные сообщества уже выражают обеспокоенность объёмами энергии и воды, необходимыми для работы дата-центров. Без решений некоторые группы будут выступать за полную остановку разработки и внедрения ИИ.
Решения должны определяться нашими ответами на фундаментальные вопросы, которые ставит ИИ, включая вопрос о том, как сохранить человечность в эпоху, когда машины способны превзойти нас в мышлении. Религиозные лидеры, которые посвящают свою жизнь осмыслению того, что значит быть человеком, могут сыграть здесь важную роль. Меня заинтересовала энциклика Папы Льва XIV об ИИ — «О защите человеческой личности в эпоху искусственного интеллекта». Она создаёт прочную основу для необходимой работы.
В ближайшие месяцы я поделюсь новыми идеями о том, как добиться того, чтобы польза от ИИ превышала причиняемый им вред. Вот три из них, начиная с той, которую я считаю наиболее важной.
Создать новую систему управления переходом.
Главнейшая задача — колоссального масштаба: создать национальную и международную систему регулирования и управления ИИ.
Ни один из существующих институтов не создавался для работы с технологией, которая распространяется настолько быстро и затрагивает столько сторон нашей жизни. Поэтому нам придётся создавать новые институты.
Трудно переоценить масштаб этой задачи. После атак 11 сентября правительство США провело крупнейшую со времён Второй мировой войны реорганизацию, направленную на совершенствование всего одной функции — национальной безопасности.
ИИ потребует гораздо большего. Он затронет национальную безопасность, занятость, образование, налогообложение, энергетику, выборы, воздух и воду, общественное здравоохранение, финансовую систему, правоохранительные органы, транспорт, государственные земли и IT-системы.
Эти сферы пересекаются между собой таким образом, которым существующая бюрократия не умеет управлять. Министерство труда может понимать последствия для рынка труда, но не риски безопасности. Регулятор бизнеса может понимать проблему концентрации рынка, но не влияние ИИ на детей и подростков. Если оставить институты действовать самостоятельно, каждый будет видеть только часть системы, тогда как последствия ИИ будут распространяться по всей системе.
На национальном уровне странам потребуются органы, способные устанавливать приоритеты сразу для нескольких государственных ведомств. Цель будет заключаться в том, чтобы учитывать каждый риск. В противном случае атака с использованием ИИ может оказаться успешной просто потому, что никто не считал её предотвращение своей обязанностью.
Но даже страна, которая приведёт в порядок собственную систему, останется уязвимой перед рисками, пересекающими границы. Поэтому параллельно потребуется создать международную организацию.
Она будет непохожа на любой другой институт, который мы когда-либо создавали, хотя сможет опираться на модели уже существующих систем. Есть режим инспекций в сфере ядерного оружия, правила международной авиации и соглашения по защите озонового слоя. Новая глобальная организация по ИИ должна будет объединить элементы всех этих систем и добавить к ним новые.
Справедливо задаться вопросом, способны ли мировые институты справиться с задачей проектирования и внедрения такой новой архитектуры. Государство действует медленно, если вообще действует, а поляризация внутри стран и между ними делает достижение результатов сложнее, чем когда-либо. Потребуется определённая степень сотрудничества между США и Китаем.
У нас нет возможности двигаться медленно. Начать нужно с процесса создания правильных институтов ещё до того, как потрясения заставят правительства перейти в режим кризисного реагирования. Национальные лидеры должны регулярно собирать экономистов, технологов, экспертов по рынку труда, представителей бизнеса и самих работников, чтобы выявлять недостатки существующих институтов и определять, какие новые полномочия могут потребоваться. Страны должны учиться друг у друга.
А страны, в которых находятся ведущие разработчики ИИ и которые контролируют критически важные части цепочек поставок, должны уже сейчас начать встречаться для создания общих норм — до того, как конкурентное давление сделает сотрудничество более сложным.
Создание описанной мной системы займёт годы, поэтому начинать нужно сейчас.
Оставить некоторые рабочие места людям.
Мой отец умер от болезни Альцгеймера в 2020 году. На поздних стадиях болезни за ним круглосуточно ухаживали оплачиваемые сиделки, которые понимали его даже тогда, когда ему было трудно выразить свои мысли. Он не всегда мог сказать им, что голоден, но они всегда это знали.
Моя семья и я всегда будем благодарны этой удивительной группе профессионалов. В их заботе о моём отце было нечто незаменимо человеческое. Ни один робот не мог и не должен был делать то, что делали они.
Я думаю об этой команде, когда возникает вопрос о том, какие профессии исчезнут, а какие сохранятся. Я считаю, что по мере развития ИИ и роботов мы будем оставлять определённые задачи исключительно людям. Я начал называть эту область Human Reserved — «зарезервировано за человеком», — и это пример тех идей, которые нам придётся рассматривать.
Мне нравится выражение Human Reserved, потому что оно напоминает мне природные заповедники — места, где мы могли бы построить здания и дороги, но сознательно этого не делаем, потому что цена утраты была бы слишком высокой.
Мы можем объявить что-либо Human Reserved по экономическим причинам. Например, потому что передача определённой роли машинам вытеснит большое количество людей, которым будет трудно сменить профессию. Нельзя сказать 55-летнему человеку, который всю жизнь работал в строительстве, что теперь ему нужно идти работать в учреждение по уходу за пожилыми людьми, и ожидать, что эта работа будет приносить ему удовлетворение.
Иногда решение сделать что-либо Human Reserved будет продиктовано другими факторами. В здравоохранении, например, представьте робота, который сообщает вам ужасную новость: у вас неизлечимое заболевание. С технической точки зрения он вполне мог бы это сделать. Но он не должен этого делать.
Область Human Reserved будет со временем меняться. Например, некоторые профессии стоит зарезервировать за людьми уже сейчас и постепенно внедрять в них ИИ в течение нескольких лет или десятилетий, сохраняя обязательство оставить определённое количество рабочих мест за людьми. Некоторые сферы, например образование и психиатрическая помощь, будут представлять собой смешанную модель, где человек руководит процессом, используя технологию для расширения собственных возможностей.
Границы также будут различаться от страны к стране. Некоторые страны могут настаивать на том, чтобы за пожилыми людьми ухаживали люди. Но такая страна, как Япония, где рабочая сила сокращается и недостаточно молодых людей для ухода за пожилыми, может приветствовать роботов-сиделок.
Идея Human Reserved поднимает множество вопросов, на которые у меня нет ответов. Кто должен решать, что мы оставляем людям? Какие критерии использовать? Как не допустить, чтобы компании обходили правила и всё равно использовали роботов? Что произойдёт с международной торговлей, если одна страна позволит роботам производить какой-либо товар, а другая — нет? Всё это должно быть решено публично как часть плана перехода.
Пересмотреть баланс налогообложения труда и капитала.
По мере того как работников будут вытеснять в другие профессии, им потребуется переобучение и другая поддержка со стороны системы социальной защиты. Но они будут работать меньше, а значит, платить меньше подоходных налогов, и государственные доходы сократятся именно тогда, когда потребность в социальных услугах будет максимальной. Деньги придётся откуда-то брать в момент, когда бюджеты и без того напряжены.
Я считаю, что необходимо облагать налогом токены ИИ и роботов. Сейчас, если работодатель нанимает человека, он платит налоги с фонда оплаты труда. Но если он покупает робота, то обычно может сразу списать его стоимость как бизнес-расход. Налоговая система таким образом подталкивает работодателей заменять людей машинами.
Налог немного замедлит стремительный отказ от человеческого труда и принесёт средства для переобучения и усиления социальной защиты. Его необходимо целенаправленно применять так, чтобы он не замедлял исключительно полезные способы использования ИИ — например, удешевление медицины и образования.
Критики этой идеи указывают, что с точки зрения экономической эффективности она неоптимальна, но они не учитывают более широкую ценность труда для отдельных людей и общества. А с учётом ускорения инноваций, которое нас ожидает, мы сможем позволить себе некоторую экономическую неэффективность как цену сохранения занятости людей.
Я предложил ввести налог на роботов много лет назад, и большинство реакций сводилось к тому, что это странная идея. Я по-прежнему активно её поддерживаю. Хотя она не является полным решением проблемы, создаваемой ИИ, это часть разумного ответа на неё.
Каким бы образом мы ни собирали дополнительные средства на поддержку, они должны доходить до тех, кто больше всего в ней нуждается, включая работников, потерявших работу из-за ИИ и роботов, людей, чьи рабочие часы или зарплаты сократились, и сообщества, где потери концентрируются особенно сильно. Эту работу необходимо начинать сейчас, чтобы соответствующие системы были готовы тогда, когда потребность в них станет острой.
Что делаю я.
Я буду использовать свой голос и своё время, чтобы вывести тему ИИ и равенства возможностей на более высокое место в общественной повестке. Я буду поднимать этот вопрос перед законодателями каждый раз, когда посещаю Вашингтон, округ Колумбия, а также во время встреч с мировыми лидерами. Он будет занимать центральное место в моих разговорах с людьми, разрабатывающими модели ИИ. Я буду выступать за создание национальной и международной системы, описанной выше. Фонд Гейтса будет помогать продвигать полезное применение ИИ, в том числе в Африке. Breakthrough Energy, компания, которую я основал, будет использовать ИИ, чтобы помогать компаниям разрабатывать дешёвую чистую энергию и решать проблему изменения климата. Я также буду регулярно писать об ИИ.
Моё послание лидерам таково:
У вас есть возможность действовать сейчас, до того как безработица резко вырастет, сообщества начнут страдать, а общественное доверие будет подорвано. Вы можете обеспечить комплексное решение проблемы со стороны государства, вместо того чтобы разнести её по нескольким бюрократическим ведомствам. Вы можете сделать так, чтобы ИИ приносил пользу всем. И вы можете работать с другими правительствами над решением этого национального и глобального вызова.
Наконец, я постараюсь расширить круг людей, участвующих в формировании этой дискуссии. В него должны войти рабочие, студенты колледжей, которым вскоре предстоит выйти на рынок труда, лидеры сообществ, религиозные лидеры и религиозные организации, родители, педагоги и другие люди, чьи голоса часто не слышны, но которые понимают, как переход к ИИ повлияет на жизнь людей.
Как сделать так, чтобы преимущества ИИ дошли до людей, у которых уже нет богатства, влияния и доступа к возможностям?
Как укрепить систему социальной защиты и помочь работникам и сообществам процветать даже тогда, когда они будут вытеснены с рынка труда?
Как должны адаптироваться государственные институты?
И как сохранить нашу человечность во всём этом?
Эта беспрецедентная технология требует беспрецедентного глобального ответа.
Эта беспрецедентная технология требует беспрецедентного глобального ответа. Если мы всё сделаем правильно, выгода для человечества будет колоссальной, а мир станет более справедливым.
Я редко перестаю думать об ИИ — не потому, что у меня есть ответы на все вопросы, а потому, что вопросы, которые он поднимает, слишком важны, чтобы оставлять их небольшой группе технологов. Лидеры академического сообщества, бизнеса, государства и гражданского общества — все должны сыграть свою роль в формировании того, что произойдёт дальше.
.. у меня с 97 по 99й фурычила BBS (в досе, визуально на ASCII) дома на модеме 14400 и там у меня был текстовый секретарь, который умел отвечать подключившимся на BBS пользователям по ключевым словам, давал инструкции где что расположено.
Страх всегда отлично продавался и продаваться будет.
