luchecon

Categories:

Израильтянин предсказывает кошмарное цифровое будущее

И это будущее правдоподобно.

***

Израильский историк и философ Юваль Ной Харари в последние годы превратился в одного из самых влиятельных мыслителей мира. Его нон-фикшен-бестселлеры «Sapiens. Краткая история человечества» и «Homo Deus. Краткая история будущего» распроданы совокупным тиражом свыше 30 млн экземпляров, к его прогнозам прислушиваются ведущие визионеры Кремниевой долины, и даже разные редакции переводов его книг провоцируют глобальные общественно-политические скандалы. Неудивительно, что 43-летний футуролог стал одним из главных спикеров Международного экономического форума в Давосе в 2020 году. Несколько дней назад мы рассказывали об основных тезисах из дискуссии Харари с основателем Huawei Жэнем Чжэнфеем, а сегодня представляем краткий пересказ его мини-лекции на сессии, посвященной рискам и угрозам XXI века. Подробнее со многими из этих идей можно познакомиться в последней на данный момент книге израильтянина — «21 урок для XXI века».

  • Подрывные технологии могут разрушить самую суть нашего общества множеством способов — от создания класса «бесполезных» людей из-за широкого внедрения искусственного интеллекта до неконтролируемой экспансии колониализма данных и цифровых диктатур.
  • Автоматизация рабочих процессов уничтожит миллионы и миллионы рабочих мест. Неясно, насколько быстро люди научатся осваивать новые профессии. Да, технологии создадут достаточное количество альтернативных рабочих мест, но сможет ли, к примеру, 50-летний водитель грузовика, которого только что заменили беспилотной технологией, заново обрести себя в профессии разработчика программного обеспечения или учителя йоги? А ведь людям, вероятно, придется не единожды проходить такое вынужденное переобучение — революционный переход на алгоритмы искусственного интеллекта не произойдет в один момент, нас ждет каскад больших и очень больших перемен.
  • В прошлом люди много и активно боролись против эксплуатации в разных ее формах. Но XXI век делает более актуальной другую борьбу — против собственной «бесполезности». Стать «бесполезным» сегодня гораздо опаснее, чем «эксплуатируемым». Из тех, кто не сможет победить в этой борьбе, сложится целый новый класс. Это будут бесполезные с точки зрения экономической и политической систем люди. И пропасть между ними и могущественной элитой будет только расти.
  • Эта социальная дифференциация захватит не только классы, но и целые страны. В XIX веке мы уже наблюдали, как пионеры индустриальной революции Британия и Япония первыми внедрили новые технологии и тут же принялись захватывать мир и эксплуатировать другие народы. Если мы не усвоим эти уроки, история повторится и в XXI веке искусственный интеллект (ИИ) позволит передовым государствам — прежде всего Китаю и США — совершить скачок в развитии, грозящий всем остальным банкротством или превращением в цифровые колонии. Эффект от внедрения ИИ должен быть равномерно распределен по планете.
  • Просто представьте себе, что случится с развивающимися экономиками, если текстиль или автомобили станет выгоднее производить в Калифорнии, а не, к примеру, в Мексике? А что будет с элитами ваших стран, если в Сан-Франциско или Пекине будут храниться все данные об истории их болезней и другая чувствительная персональная информация? Когда у вас достаточно данных, не нужно посылать никуда солдат — отстающие страны и без того вынужденно станут вашими сателлитами.
  • Еще один риск неравномерного освоения технологий — появление цифровых диктатур, способных постоянно следить за всеми своими гражданами. Этот риск можно уместить в самое, вероятно, важное уравнение XXI века: B*C*D=AHH, где B — биологические знания, C — компьютерные вычисления, D — данные, а AHH — умение «хакнуть» каждого отдельного человека. Если у вас есть все аргументы для этой формулы, вы взломаете мое тело, мой мозг, мое сознание и поймете меня лучше, чем я сам.
  • Система, основанная на формуле, сможет предсказывать чувства и решения человека, манипулировать ими и в конечном итоге решать за него. В прошлом о такой системе мечтали многие тираны, но ни у кого из них не было достаточно представлений о биологической природе человека, развитых технологий и массива данных, доступных сегодня. Мы больше не какие-то там загадочные души, мы животные, которых можно взломать.
  • Да, вся эта информация может использоваться и во благо, например для создания эффективной системы здравоохранения. Но представьте себе попадание наших аргументов в руки условного нового Сталина — тогда всем нам грозит диктатура, невиданная доселе. А ведь претенденты на роль этого нового Сталина уже есть — давайте подумаем, какой будет та же Северная Корея через двадцать лет? На граждан там смогут надевать биометрические браслеты, замеряющие все данные, и когда человек будет слушать по радио речь верховного лидера, «большой брат» будет знать, что он думает о правителе на самом деле. Вы можете улыбаться и хлопать в ладоши, но если вы в этот момент злы, то уже завтра утром окажетесь в ГУЛАГе.
  • Люди все больше и больше будут доверять искусственному интеллекту, передавать свои знания и умения алгоритмам. В принципе уже сегодня миллиарды пользователей считают, что Facebook лучше них выстроит их собственную картину дня, Google подскажет, правдива ли та или иная информация, Netflix выберет фильм для просмотра, а Amazon и Alibaba посоветуют следующую покупку. Те же алгоритмы в недалеком будущем теоретически легко могут предсказать за человека, куда ему идти работать и с кем заводить брак, а компаниям и банкам — кого нанимать на работу и кому одалживать. И даже центробанки способны опираться на ИИ в расчете оптимальной ставки. Все это будет происходить только потому, что так решил компьютер.
  • Человеческий мозг уже сегодня не может вместить в себя все те знания о биологии, всю ту вычислительную мощность и все те данные, что хранятся в компьютере. Все это ведет к тому, что однажды мы попросту перестанем понимать решения искусственного интеллекта. Даже в относительно свободных странах люди рискуют потерять контроль над собственной жизнью и государственным управлением. То, как работает финансовая система, уже сегодня понимает в лучшем случае 1% человечества. Через двадцать лет этот показатель может снизиться до нуля.
  • В свете наступления искусственного интеллекта мы сталкиваемся с философским банкротством — у нас нет ресурсов и инструментов, чтобы осознать и объяснить происходящие перемены. Политические и бизнес-элиты посредством новых технологий могут создавать на Земле рай и ад по своему усмотрению. Но философы пока не могут концептуально осмыслить эти перспективы. В итоге в этом новом цифровом аду рискует оказаться все человечество.
  • Подрывные технологии грозят и нашему биологическому устройству. В ближайшие десятилетия искусственный интеллект и биотехнологии способны дать нам богоподобные свойства, вплоть до искусственного создания новых людей, органической жизни, сформированной разумным замыслом. Армии, корпорации и государства могут использовать новые умения и для манипуляций — формировать у зависимых от них граждан особый набор свойств. Это будет раса лояльных дисциплинированных людей, не умеющих сострадать, быть творцами и духовно глубокими личностями.
  • Все это не приговор, а лишь один из сценариев развития. ИИ и биотех позволят построить в XXI веке разные по устройству общества. Если вы боитесь каких-то из описанных мною угроз, в ваших силах повлиять на то, чтобы эти угрозы не реализовались. Но нам точно понадобится глобальная кооперация. Лидерам важно помнить, что ни одна страна в одиночку не справится с рисками вроде ядерной войны и климатической катастрофы. То же и с ИИ.
  • Важно доверие — государства должны быть уверены, что сосед не поставит подножку и не разработает в одиночку смертоносную технологию. Потому что в противном случае не будет иметь значения, кто был первым, — проиграет все человечество.
  • Сегодня власти отдельных стран должны понять, что противостояние между национализмом и глобализмом — искусственный конструкт прошлого. Такой коллизии нет в повестке, национализм — не про ненависть к иностранцам, а про любовь к согражданам. В XXI веке, чтобы защитить свою страну, вы должны кооперироваться с иностранцами. Всякий честный националист сегодня обязан быть глобалистом.
  • Но не стоит успокаивать себя этими мыслями. Да, сегодня в мире больше людей кончают жизнь самоубийством, чем погибают на войнах, порох стал менее смертоносным порошком, чем сахар, а большинство стран (за редкими примечательными исключениями вроде России) не мечтают о захвате территорий соседей и больше тратят на образование и медицину, чем на оборону. Это больше не джунгли. Но и благополучие иллюзорно: страны забывают, насколько в реальности хрупко устройство мира, и недооценивают то, что мы имеем. Планета напоминает дом, жители которого просто спят в нем, но не ремонтируют. Он продержится еще сколько-то лет, но однажды, если мы ничего не изменим, рухнет. И мы вернемся в джунгли.
  • Конечно, даже если человечество уничтожит само себя, это будет еще не конец света. Кто-то, вероятно, выживет. Возможно, крысы. Выживут и изобретут новую цивилизацию. И даже учтут наши ошибки. Но мне бы хотелось верить, что апокалиптический сценарий не сбудется и ответственность за решение проблем возьмут на себя лидеры, которые собираются здесь, в Давосе.

ссылка

promo luchecon april 1, 2014 14:26 2
Buy for 10 tokens
"Если первым не писать людям и не навязываться, то можно обнаружить, что, в принципе, никому ты и не нужен". Афоризм для промоутеров.

Error

default userpic

Your reply will be screened

Your IP address will be recorded 

When you submit the form an invisible reCAPTCHA check will be performed.
You must follow the Privacy Policy and Google Terms of use.