Возникновение опасных технологий может стать причиной
Содержание статьи
10 перспективных технологий, которые могут быть опасны для человечества
1. Беспилотные автомобили
По имеющимся оценкам, к 2025 году в мире будет продано 8 миллионов беспилотных автомобилей того или иного уровня самостоятельности. Их доля на дорогах повысится до 8%, однако никто пока точно не знает, как это повлияет на общую ситуацию с безопасностью движения. Дело в том, что в экстренных ситуациях, например, когда лопается шина, водитель должен восстановить контроль над таким автомобилем. Но если верить соответствующим исследованиям, время реакции водителя беспилотной машины существенно ниже, чем у шофера, изначально держащего руль в руках. Чтобы отреагировать на аварийную ситуацию, первому требуется целых 17 секунд, в то время как второму — меньше секунды. Автомобиль, движущийся со скоростью 90 км/ч, за 17 секунд проезжает более 400 метров. И всю эту дистанцию представляет опасность для водителя, пассажиров и окружающих людей. При этом в некоторых странах, например, в Австралии, всерьёз рассматривается вопрос об отмене санкций по отношению к нетрезвым водителям, если они передвигаются на беспилотном автомобиле.
2. Виртуальная реальность
В наши дни производители продают миллионы гарнитур виртуальной реальности в год, и это количество будет только расти, так как к разделу этого пирога готовы присоединиться ещё несколько крупных компаний. При этом мало кто обращает внимание на данные научных исследований, свидетельствующих о том, что эти устройства могут прямо влиять на то, как мы ощущаем происходящее. В особенной степени это касается детей. В 2009 году был проведён эксперимент, в ходе которого школьникам с помощью упомянутой гарнитуры показывали, как их виртуальные двойники плавают с косатками. Через неделю детей попросили поделиться впечатлениями об этом опыте. Некоторые из них, как оказалось, искренне считали, что он имел место в реальной жизни. В 2017 году учёные проверили, как влияет на аудиторию компьютерная игра, созданная студией «Sesame». Дети в возрасте от 4 до 6 лет, игравшие в неё с помощью гарнитуры виртуальной реальности, стали воспринимать её главного героя как более «настоящего» по сравнению с теми, кто видел его только по телевизору. Они чаще копировали его слова, действия и движения. Если допустить, что кто-то может использовать подобный уровень влияния на детскую аудиторию с недобрыми целями, за подрастающее поколение становится довольно тревожно.
3. 3D-печать
Эта революционная технология, предлагающая дешевое и быстрое производство различных предметов, способна изменить мир. Продажи устройств для 3D-печати неуклонно растут, и их объём подбирается к 7 миллиардам долларов в год. Но эта картина совсем не так благостна, какой кажется на первый взгляд. Американские учёные предупреждают о том, что некоторые принтеры разбрасывают вокруг себя до 200 миллиардов ультрадисперсных частиц в минуту, и те могут оседать в легких человека и даже проникать в систему его кровообращения. То есть астматикам лучше держаться от них подальше. Существует опасность и иного плана — теперь ничто не мешает изготавливать, например, пистолеты — первый из них был напечатан в 2013 году. Таким образом, мы уже в ближайшее время можем столкнуться с ситуацией, когда огнестрельное оружие получит нежелательное распространение, оказываясь в руках людей, которых никто не проверяет на криминальное прошлое или психическое здоровье.
4. Редактирование генов
Технология редактирования генома считается одним из важнейших прорывов современной науки. Она способна лечить рак, СПИД и даже слепоту. Но она может представлять и серьёзную опасность для здоровья пациента. Исследование, проведённое в 2018 году на мышиных и человеческих клетках, показало, что этот метод повреждает их, причём подвергшиеся воздействию участки не обнаруживаются с помощью существующих тестов ДНК. Кроме того, клетки мутируют, что значительно увеличивает шансы возникновения раковых заболеваний. Впервые этот процесс был обнаружен в 2017 году, но тогда учёным не удалось повторно воспроизвести результаты, что заметно снизило доверие к их выводам. Однако уже совсем недавно мутации были замечены в ходе нескольких других экспериментов, поэтому исследователям предстоит вернуться к изучению этих побочных эффектов.
5. Мобильный банкинг
В одном из эпизодов популярного фантастического сериала «Черное зеркало» описывалось общество, в котором все люди с помощью мобильного приложения ставят друг другу оценки. Полученный в результате общий балл определял их социальное положение. Авторы сценария проводили очевидные параллели с классовым неравенством современной цивилизации. Тем, кто видел эту серию, наверняка показалось, что мы ещё очень далеки от чего-то подобного в реальной жизни. Однако не так давно в Китае появился личный кредитный рейтинг «Zhima Credit», разработанный и внедрённый в сотрудничестве с мобильной платежной системой «Alipay». Его значение варьируется от 350 до 950, и он зависит от многих факторов. Некоторые из них весьма логичны и учитывают кредитную историю человека и его криминальное прошлое. Другие, однако, иначе как странными не назовёшь. Система рассматривает, критиковал ли пользователь китайское правительство и кредитные рейтинги его друзей. Люди с низким итоговым значением параметра рассматриваются как граждане второго сорта. Так, например, одному репортеру с рейтингом 550 пришлось оставлять залог в размере полной стоимости велосипеда за его аренду, и оплачивать пользование бесплатными зонтами на пляже. Китайцы, у которых с данным показателем всё в порядке, наоборот, получают лучшие условия при аренде квартир и упрощенные визовые процедуры в соответствующих ведомствах.
6. Голосовые помощники
Эти устройства также пользуются огромной популярностью в последнее время. Согласно прогнозам, к 2022 году голосовые помощники будут установлены более чем в половине американских жилищ. На них можно возложить выполнение множества разных задач — от охраны дома до совершения покупок в Интернете. Если учесть, что при этом они должны быть легко доступны, становится понятно, что мы имеем дело с неким врождённым пороком концепции. Чтобы проиллюстрировать это, охранная фирма «Checkmarx» в 2018 году создала приложение для голосового помощника «Alexa», которое загружается в систему с помощью простейшей звуковой команды. После чего смарт-динамики «Amazon Echo» начинают работать в режиме подслушивающего устройства. В 2017 году китайские исследователи научились посылать голосовые команды на низкой частоте, не слышимой человеческому уху. Впрочем, чтобы обмануть эти девайсы, совсем не обязательно быть гениальным хакером или учёным. «Alexa», как показывает практика, может открыть дверь незнакомцу, если тот даст соответствующую команду в щель почтового ящика. А в 2018 году одна маленькая девочка из Далласа потратила 170 родительских долларов, когда попросила добрую электронную помощницу купить ей кукольный домик и много печенья.
7. Криптовалюта
Нестабильность расплодившихся в последнее время криптовалют всё больше говорит о том, что они не смогут стать альтернативой нормальным деньгам. С другой стороны, сам факт того, что они плодятся, свидетельствует о возможной их перспективности в этом качестве. Мало кто, однако, обращает внимание на то, что они могут не пройти такого банального испытания, как нехватка электроэнергии. Какой ущерб они нанесут окружающей среде, прежде чем сгинут в небытие, остается только догадываться. На данный момент времени транзакция одного биткойна потребляет столько же электричества, сколько средний частный дом за 9 дней. По подсчётам онлайн-портала «Digiconomist» одна только эта криптовалюта сжирает большее количество энергии, чем 159 стран мира по отдельности. Ожидается, что вскоре добыча биткойнов станет попросту нерентабельной из-за того, что их стоимость не будет отбивать счета за электричество.
8. Роботы
С самого момента появления промышленных и иных роботов СМИ, общественность и политики выражают опасения, что эти технологии со временем разовьются до такой степени, что полностью заменят живую рабочую силу. Эта перспектива долгое время выглядела отдалённой, однако недавние статистические отчёты, в частности, от консалтинговой компании «McKinsey & Company» говорят о том, что очередная промышленная революция уже стучится к нам в дверь. Согласно сделанному здесь прогнозу, к 2030 году роботы заменят на производствах до 800 миллионов человек во всём мире. В технологически развитых странах, например, в США и Германии, это затронет до одной трети населения. Несколько более тревожные оценки прозвучали в 2018 году на Всемирном экономическом форуме. Согласно им, 52% живой рабочей силы будет вытеснено роботами в течение десяти лет, а 72 миллиона человек окажутся на улице уже к 2022 году. Впрочем, здесь же было сказано, что эти процессы приведут к появлению 133 миллионов новых рабочих мест для людей. Как будут зарабатывать на пропитание остальные, пока не очень понятно.
9. Квантовые компьютеры
«Google», «IBM» и несколько других компаний ожесточённо соревнуются друг с другом, чтобы первыми преподнести миру квантовые компьютеры, которые принято считать следующим этапом развития этой потрясающей технологии. Эти машины будут использовать не привычные всем биты, а кубиты. Объяснить, в чём между ними разница, быстро и понятно не получится, однако считается, что это даст огромный прирост в вычислительной мощности. Пока инженеры пытаются воплотить абстрактные представления в нечто реально работающее, эксперты уже выражают опасения, что появление квантовых компьютеров поставит под угрозу все существующие системы защиты данных. Последние относительно легко справляются с устройствами, использующими традиционные методы вычисления, но вряд ли справятся с машинами, работающими на другом уровне. Есть все основания считать, что квантовые компьютеры смогут легко вскрывать имеющиеся ныне криптографические алгоритмы. Грубо говоря, если такое устройство попадёт в руки злоумышленников, то они спокойно взломают защиту Нью-Йоркской фондовой биржи, извлекут гигантскую прибыль и останутся безнаказанными, так как никто не сможет их обнаружить.
10. Искусственный интеллект
Расчётливый, безжалостный и бесчеловечный ИИ — это давний страх человечества. Зная, насколько напрасны были большинство других фобий, присущих нашему виду живых существ с глубокой древности до наших дней, на него можно бы было не обращать внимания, но о реальной опасности бесконтрольного развития искусственного интеллекта говорит, например, Илон Маск. В 2017 году он заявил, что ИИ представляет собой «фундаментальную угрозу для существования человеческой цивилизации». Для борьбы с ней один из самых успешных предпринимателей планеты основал «OpenAI» — некоммерческую организацию, призванную обеспечить безопасное развитие этой технологии. Самая же большая опасность заключена в гонке за обладание полноценным ИИ. Никто иной как президент РФ заявил в 2017 году, что лидерство той или иной стороны в этом вопросе приведёт к установлению контроля над всем миром. По его мнению, искусственный интеллект является «наиболее вероятной причиной Третьей мировой войны». Если предположить, что человек, занимающий столь высокое положение, говорит исходя из своего уровня осведомлённости, к этим заявлениям следует, наверное, относиться со всей серьёзностью.
Источник
Зловещие технологии, которые опасны для человечества
Научно-технический прогресс принёс человечеству огромную пользу, но он же может стать причиной нашего уничтожения.
Чем дальше мы двигаемся в 21-й век, тем чаще мы начинаем представлять себе фантастические возможности, которые ждут нас. Вместе с тем нас преследует и мрачное предчувствие ужасов, ждущих в будущем.
Ниже перечислены 10 страшных технологий, не имеющих права на существование.
1. Военные нанотехнологии
Ничто не сможет закончить наше царствование на Земле быстрее, чем военные (или просто чрезвычайно неудачно реализованные) нанотехнологии. Это угроза, которая исходит от двух невероятно мощных сил: от бесконтрольного самовоспроизведения и экспоненциального роста. Достаточно нигилистичное правительство, негосударственная организация, или отдельная личность могут создать микроскопические машины, которые в ходе самовоспроизведения уничтожат все важнейшие ресурсы нашей планеты со скоростью лесного пожара, и оставят после себя только совершенно бесполезные би-продукты, остатки, которые футурологи очень любят называть «серой слизью».
Теоретик нанотехнологий Роберт Фрейтас предпринял «мозговой штурм», и выдал несколько вариантов того, как нанотехнологии могут уничтожить планету. В числе этих вариантов была так называемая «серая пыль», «серый планктон», «серые лишайники» и «убийцы биомассы». «Серая пыль» способна затмить солнечный свет, «серый планктон» может оказаться на дне моря и уничтожить всю морскую экосистему, «серые лишайники» уничтожат полезные ресурсы на поверхности, а «убийцы биомассы» истребят все живые организмы. По словам Фрейтаса, наихудший сценарий такой «глобальной экофагии» займёт около 20 месяцев, которых будет более чем достаточно для выработки эффективной защиты. Под «защитой» Фрейтас подразумевает разработку других самореплицирующихся нанороботов, способных разрушать внутренние системы «захватчиков». Другой мерой может быть создание так называемых «активных щитов», хотя большинство экспертов по нанотехнологиям в один голос говорят о том, что такие «щиты» окажутся бесполезны. А значит, на военные нанотехнологии должен быть установлен мораторий, и он должен неукоснительно соблюдаться.
2. Сознательные машины
Однажды мы вдохнём в машину искусственное сознание. Но мы должны серьёзно подумать, прежде чем сделать это. На самом деле это может быть очень жестоко — построить полнофункциональный мозг внутри компьютера. И это относится как к человеку, так и к его «копии». Ещё в 2003-м году философ Томас Метцингер утверждал, что это было бы чудовищно неэтично:
«Что бы вы сказали, если бы кто-то пришёл к вам, и заявил: „Эй, мы хотим генетически модифицировать умственно отсталых человеческих младенцев! Для научного прогресса нам необходимы дети с определённым познавательным и эмоциональным дефицитом для того, чтобы мы могли изучить их послеродовое психологическое развитие, и нам срочно необходимо предоставить финансирование для этого важного и инновационного вида исследований“. Вы наверняка решили бы, что это не только абсурдная, но и опасная идея. Надеемся, ни один комитет по этике этого никогда не одобрит. Однако кое-чего сегодняшние комитеты по этике не видят. Они не видят появления первых машин, у которых уже есть минимальный набор связей, которых достаточно для получения начального сознательного опыта, такого же, как у умственно отсталого ребёнка. А значит, такие машины будут страдать от всех видов
функционального и репрезентативного дефицита. Вдобавок, они не будут иметь никакого политического лобби — никаких представителей ни в одном комитете по этике».
Футуролог Луи Хельм согласен с этим. Вот что он говорит:
«Одной из лучших вещей в компьютерах является то, что вы можете заставить их производить миллионы операций в секунду не заботясь о том, что они могут обидеться, или что им станет скучно. Так как мы планируем использовать труд искусственного интеллекта вместо интеллектуального труда человека, я думаю, было бы аморально запрограммировать его так, чтобы он стал сознательным. Заключить сознательное существо в машину, и заставить его работать за вас — это просто возвращение к рабству».
3. Искусственный интеллект
Как заявил в этом году Стивен Хокинг, искусственный интеллект может быть нашей худшей ошибкой за всю историю. Это не раз отмечалось и другими учёными. Появление интеллекта, превосходящего человеческий, может оказаться катастрофическим. Внедрение в нашу жизнь систем, которые гораздо быстрее и умнее нас, отодвинет нас на второй план.
Мы будем отданы на милость искусственного разума, который станет решать всё за нас. К тому же далеко не факт, что мы сможем создать дружественный искусственный интеллект. Мы должны решить эту проблему, в противном случае создание искусственного интеллекта будет безумием чистой воды.
4. Путешествия во времени
На свете не так много людей, верящих в путешествия во времени. Но если нечто подобное всё-таки возможно, то нам лучше держаться от этого подальше, поскольку это было бы безумно опасно. Любой научно-фантастический фильм, связанный с изменением временных линий, должен дать вам представление о потенциальных опасностях этой технологии, и особенно об этих отвратительных временных парадоксах. И даже если некоторые формы квантовых путешествий во времени всё-таки возможны (в ходе чего будут создаваться отдельные, совершенно новые временные линии), то культурный и технологический обмен между слишком разными по своему развитию цивилизациями просто не может закончиться хорошо.
5. Устройства для чтения мыслей
В перспективе могут быть созданы машины, с помощью которых можно будет прочесть мысли и воспоминания людей, причём на расстоянии и без их согласия. Но очевидно, что это не станет возможным до тех пор, пока человеческий мозг не будет более тесно интегрирован в веб, и в другие системы связи. В прошлом году, к примеру, учёные из Нидерландов использовали данные, полученные в результате сканирования мозга, и некоторые компьютерные алгоритмы для того чтобы определить, на какие буквы смотрит человек. Этот научный прорыв наверняка намекнул третьим лицам на то, что реконструкция человеческих мыслей вскоре может выйти на беспрецедентно высокий уровень детализации. Можно будет узнать, что мы видим, помним, и о чём думаем. Такие устройства, если использовать их массово, могут быть хорошим подспорьем тоталитарному режиму или какому-нибудь полицейскому государству, и сделают жизнь просто невыносимой. И это будет мир Оруэлла, в котором людей наказывают за «мыслепреступления».
6. Устройства для «взлома» мозга
Наш разум тоже может быть изменён без нашего ведома и без нашего согласия. Однажды в наших мозгах появятся чипы, и если предположить, что мы не сможем разработать эффективные «мозговые брандмауэры», то наши умы будут доступны из любого сегмента Интернета. Невероятно, но мы уже сделали первые шаги в этом направлении. Недавно международная группа нейробиологов провела эксперимент, который позволил участникам осуществить «слияние разумов» посредством Интернета. С одной стороны это здорово. Но с другой стороны такая «техническая телепатия» может стать настоящим ящиком Пандоры. Возможно, самая лучшая (и самая страшная) иллюстрация этой угрозы была представлена в аниме «Призрак в доспехах». В этом фильме искусственный интеллект «взламывал» мозги людей, и был способен модифицировать их воспоминания и намерения. А теперь представьте такую технологию в руках организованной преступности или параноидального правительства.
7. Автономные роботы, разработанные, чтобы убивать людей
Опасность автономных машин для убийства это страшный, и пожалуй, единственный пункт в этом списке, который актуален уже сегодня. Вот что по этому поводу говорит футуролог Майкл ЛаТорра:
«У нас пока ещё нет машин, демонстрирующих интеллект, который хотя бы немного напоминал человеческий. Но смертоносным автономным роботам человеческий интеллект и не нужен. Роботизированные боевые машины всех видов успешно строят уже сейчас. Роботы-танки, роботы-самолёты, роботы-подводные лодки, и даже роботы-солдаты создаются уже сегодня. В отличие от дистанционно управляемых самолётов-беспилотников, военные роботы могут самостоятельно определять цели и уничтожать их без участия человека, самостоятельно принимая решение открыть огонь. Опасность подобной технологии очевидна, и она выходит за рамки угрозы инцидентов „дружественного огня“, в ходе которых робот может убить солдат, находящихся с ним на одной стороне, или даже невинных гражданских. Огромная опасность таится в гонке международных вооружений, так как она может побудить какую-то из наций начать строительство автономных боевых роботов. Через несколько циклов усовершенствования появятся роботы нового поколения, которые смогут победить любую систему, контролируемую человеком. А потом либо случайно („Кто же знал, что искусственный интеллект может спонтанно возникнуть в военном роботе“?), либо по злому умыслу („Мы как-то не подумали о том, что хакеры могут перепрограммировать наших военных роботов на расстоянии“!), человечество может оказаться в полном подчинении у своих новых повелителей».
8. Военные патогены
Ещё одна плохая, но пугающе актуальная вещь. Ещё в 2005-м году Рей Курцвейл и Билл Джой опубликовали геномы смертельных вирусов для всего мира, так что все смогли увидеть эти рецепты нашего уничтожения. Всегда существует возможность того, что отдельно взятый идиот или группа фанатиков воспользуются этой информацией, и воссоздадут смертельный вирус с нуля, либо внесут изменения в какой-нибудь существующий вирус, чтобы сделать его смертельным, а затем выпустить в окружающую среду. Считалось, например, что пресловутый «птичий грипп» мог убить половину людей на земном шаре. А кое-кто считал, что этот вирус был создан искусственно. Конечно, главное в таких ситуациях — знать врага в лицо, и разработать возможные контрмеры до того, как разразится пандемия. Но всегда есть опасность того, что вирус может выйти за пределы лаборатории, и начнёт убивать население.
9. Виртуальные тюрьмы и наказания
Чем станут тюрьмы и наказания, если люди когда-нибудь смогут жить в течение сотен, или даже тысяч лет? И что если умы заключённых будут загружаться в «виртуальные тюрьмы»? Специалист по этике Ребекка Роуч делится страшными сценариями:
«Преимущества от радикального увеличения продолжительности жизни очевидны, но они также могут быть использованы и для повышения суровости наказаний. В случае, когда тридцатилетнее заключение покажется судье слишком мягким приговором, осужденный преступник может быть приговорён к пожизненному заключению, которое сочетается с принудительным продолжением жизни. В результате пожизненное лишение свободы может означать срок в несколько сотен лет, а не десятилетий. Обществу, конечно, дорого обойдётся поддержка таких приговоров. Но если повышение продолжительности жизни будет доступно всем, эти затраты могут быть компенсированы повышением производительных сил.
Существует и другой вариант. Ум осуждённого преступника загружается в компьютер, и скорость работы этого разума принудительно увеличивается в миллион раз, так что 1000 лет лишения свободы легко умещаются в 8,5 часов. Такой подход, очевидно, обойдётся налогоплательщикам куда дешевле, чем принудительное увеличение продолжительности жизни преступника».
Это ужасно. Тут важно отметить, что Роуч не выступает за такие методы наказания, она всего лишь сделала некоторые предположения. Но будет лучше, если они никогда не станут реальностью.
10. Адская инженерная деятельность
Этот пункт немного похож на предыдущий. Некоторые футурологи делают прогнозы для «райской инженерной деятельности», под которой подразумевается использование передовых технологий, в частности, загрузку сознания в виртуальную реальность для того, чтобы создать рай на Земле. Но коль скоро вы можете создать рай, значит, можете создать и ад. И эта перспектив особенно пугает, если предположить, что в будущем жизнь человека может быть очень долгой, и в этой жизни будет множество возможностей для причинения физических и психологических страданий. На самом деле это одна из худших вещей, которые могут случиться. Плюс появляется ещё одна причина для запрета на разработку искусственного интеллекта: возникновение «проблемы Василиска Роко» («Василиск Роко» — богоподобная и чрезвычайно опасная форма искусственного интеллекта).
Источник
Источник