Технологии делают мир лучше, интереснее и опаснее

Технический директор Google, футуролог и изобретатель Рэй Курцвейл недавно прочитал открытую лекцию для издания Wired, в которой рассказал о новых экзистенциальных рисках человечества, перспективах восстания искусственного интеллекта и о том, почему не надо бояться срастись с своим смартфоном.

Мы подготовили для вас дайджест выступления Курцвейла. Советуем отнестись к этим прогнозам внимательно, потому что предсказания, которые делает футуролог, сбываются с поразительной точностью

Технологии продолжат ускоряться и дешеветь

«На середине работы проекта «Геном человека», через семь лет, был расшифрован 1% данных. Критики говорили – ну, мы же предупреждали, что это бессмысленная затея, понадобится 700 лет, чтобы все расшифровать. Моя реакция была такой: “Вау, мы расшифровали 1 процент генома? Мы почти на финишной прямой!” Потому что 1% – это всего лишь семь удвоений от 100%. И удвоение происходило каждый год. Проект был завершен семь лет спустя. Но и после этого закон работал – первый геном стоил миллиарды долларов, а сейчас эта цифра опустилась до тысячи».

Пример с темпом расшифровки человеческого генома – это лишь одно из множества следствий закона ускоряющейся отдачи. По мнению Курцвейла, именно этот закон стоит за потрясающей цифровой революцией, свидетелями которой мы являемся. Ее суть заключается в том, что через год мы получаем все технологические достижения за полцены. То есть можно купить смартфон, который в два раза лучше, чем его прототип двухгодичной давности, по цене в 2 раза меньше.

Генетика всегда отличалась, как хороший пример развития науки и этических норм. Особенно ярко это отразилось в кино 

Будущее – за открытой информацией и 3-D печатью

Когда африканская девочка покупает смартфон за $75, в терминах экономической деятельности мы считаем, что он стоит ровно $75, несмотря на то, что в 1960-е годы на его программирование ушли бы триллионы долларов, а в 1980-е – около миллиарда. На мой взгляд, это хорошая идея – выкладывать в открытый доступ информацию и алгоритмы. Google выложила все алгоритмы, связанные с искусственным интеллектом. Я думаю, именно комбинация открытости информации и закона ускоряющейся отдачи приближает нас к идеалу. Конечно, есть вопросы, на которые мы не знаем правильных ответов. Например, неприкосновенность частной жизни. Конечно, мы все в целом за прогресс, но когда у нас есть определенная власть, даже хорошие намерения могут привести к злоупотреблениям.

В обычном смартфоне установлены бесплатные приложения на миллионы долларов – но в терминах экономической деятельности они ничего не стоят. Не следует забывать этот факт.

В 2020 годах произойдет революция: мы сможем сами печатать себе одежду на 3-D принтерах, используя множество данных в открытом доступе, которые можно будет скачивать бесплатно. Еще мы сможем выращивать недорогую еду при помощи вертикальных ферм, использовать внутриутробное клонирование мышечной ткани для создания мяса. Недавно в Азии из крошечных модулей, распечатанных на 3-D принтере, за несколько дней было собрано трехэтажное офисное здание.

Все эти ресурсы – одежда, еда, жилье – превратятся, по сути, в информационные технологии. 

Мы срастемся с искусственным интеллектом

Я верю, что тест Тьюринга – это действительно тест на полный спектр возможностей человеческого разума. Нужно обладать всей гибкостью человеческого разума, чтобы его пройти. Если судья-человек не сможет их различить, тогда мы приравняем AI к человеческому разуму. Я всегда говорил, что мы достигнем этого к 2029 году.

Нам предстоит буквально “слиться” с технологиями AI, чтобы стать умнее. Это уже происходит. Эти устройства как бы расширяют наш мозг, скоро они буквально проникнут внутрь нашей головы и наших тел. Но даже сейчас, пока они еще не проникли туда, они все-равно делают нас умнее и забавнее.

Я не думаю, что искусственный интеллект нас заменит. Он нас улучшит. Он уже делает это. Кто может делать свою работу без этих “расширителей” мозга, которые у нас есть уже сейчас?

Технологии могут быть опасны

Сейчас много обсуждаются вопросы этики, связанные с AI, как не обернуть технологию против себя, и дискуссия эта довольно острая. Я уже довольно долгое время озвучиваю и перспективы, и опасности. Технологии – это всегда палка о двух концах. Огонь согревал, помогал готовить еду, но и сжигал дома.

Новые технологии гораздо более мощные, чем просто огонь. В связи с этим Курцвейл предлагает пройти через 3 фазы: первая – радость от возможности преодолеть вековые беды – бедность, болезни и так далее. Вторая – тревога от осознания деструктивности и экзистенциальных рисков этих технологий. И, наконец, понимание, что у людей есть моральное обязательство продолжать прогресс в тех областях, которые могут облегчить человеческие страдания.

С нашем уровнем научных достижений нетрудно представить сценарии, при которых они будут обращены против человечества. Например, биотехнологии: мы обладаем революционными достижениями в иммунотерапии, можем перепрограммировать имунную систему для борьбы с раком, но и биотеррористы могут с легкостью создать вирус, который станет супероружием. При этом, технологии все продолжают и продолжают усложняться, поэтому необходимо постоянно обновлять этические нормы и протоколы безопасности. И осмыслять новые вызов: классический пример тут – машины без водителя.

Новые технологии всегда несли не только преимущества, но и серьезные риски

Искуственный интеллект может стать оружием

Область применения искусственного интеллекта – это вопрос номер один. Любая технология несет экзистенциальные риски, и AI – не исключение.

Машины учатся у людей, и продолжают учиться постоянно. В таких безобидных сферах, как игра в Го, можно применять алгоритмы самообучения, но это невозможно, когда речь идет о более сложных, жизненных вопросах. И крупные компании, и независимые исследователи тратят много сил на то, чтобы освободить искусственный интеллект от предрассудков, которые он может почерпнуть от людей. Речь идет, в том числе, о расовых и гендерных предрассудках. Это целая отдельная сложная область исследования.

Поэтому вооружение искусственного интеллекта – это не вопрос далекого будущего. Министерства обороны многих стран уже используют AI. В связи с этим многие люди требуют запретить автономное вооружение, и это хорошая идея только на первый взгляд: одна и та же технология лежит в основе беспилотника, доставляющего лекарства в госпиталь где-нибудь в Африке и того, который несет оружие. Люди должны контролировать эти риски, потому что нет простых алгоритмов, которые можно внедрить в машины, любой интеллект невозможно тотально контролировать.

Я предлагаю стратегию, которая также не защищена от случайных ошибок: практиковать ту этику и мораль, которую мы сами хотели бы видеть в обществе. Ведь будущее общества – это не вторжение умных машин с Марса. Оно формируется нашей цивилизацией прямо сейчас, оно станет продолжением того, что мы есть. Следовательно, практиковать ценности сегодняшнего мира – лучшая стратегия достичь будущего, которое будет воплощать в себе эти ценности.

Экономическое неравенство сокращается

Я большой оптимист, потому что считаю, что технологии делают мир лучше. Я не оптимистичен в том, что не может не быть трудностей

Во Второй мировой войне умерло 50 миллионов человек, и это было обусловлено в  том числе уровнем развития технологий в то время. Но людям нужно понимать, что мы двигаемся вперед. По результатам опроса 24000 людей в 26 странах только 1% правильно ответили на вопрос: уровень бедности мире сократился на 50%.

Уровень бедности в Азии упал на 90% за последние 20 лет, согласно данным Всемирного банка – они перешли от примитивной аграрной экономики к процветающему информационному обществу. Показатели экономического роста в Африке и Южной Америке выше, чем в развитых странах. Мы двигаемся в верном направлении.

Много говорят про “цифровое неравенство”, но нет. Интернет, смартфоны очень распространены в Африке. Это произошло всего лишь за последние несколько лет. В любое время в отдельно взятом месте страдают люди, но цифры движутся к правильным показателям

А прогресс в сфере искусственного интеллекта, за который мы боремся, поможет справиться с бедностью, заболеваниями и экологическими катастрофами.

Так ли близко мы подобрались к настоящему искусственному интеллекту, как нам кажется?

Как выбрать профессию

Только один старый добрый совет – следуйте своей страсти

Нет такой области знаний, которая не будет трансформироваться из-за развития технологий и искусственного интеллекта. Через 5 лет все уже опять изменится.

Поэтому важно понять, что вам нравится делать больше всего и отталкиваться от этого. У некоторых людей сложные интересы, которые трудно категоризировать – надо придумать, как можно это использовать, чтобы делать мир лучше.

Иллюстрация Эрик Эдельман RetroCollage.com

Рэймонд Курцвейл (Raymond Kurzweil) родился в 1948 году в Нью-Йорке.

Занимается системами распознавания речи, технологическими прогнозами и средствами продления жизни. Курцвейл — автор термина «Технологическая сингулярность» — состояния технологий и науки в будущем, когда искусственный интеллект превзойдет человеческий, а наука и технологии будут расти в экспоненциальной прогрессии и даже быстрее — настолько быстро, что станут недоступны для восприятия и понимания человека. Курцвейл — автор нескольких научно-популярных книг по футурологии и теории разума и документального фильма «Сингулярность уже близка: истинная история о будущем». С 2012 года работает в Google, занимаясь машинным обучением.

Рекомендуем