Каково это — быть пришельцем? — «наука»
Популярная наука
Человечество владеет одним качеством, которого вероятнее нет у высокоразвитых инопланетных цивилизаций — сознание.
В полной мере быть может, что люди имеют не самый большой уровень умственного развития во Вселенной. Так как Земля — планета относительно молодая, старейшие цивилизации смогут быть на миллиарды лет старше нас. Но кроме того на Земле продолжительно господствовать в качестве самого разумного биологического вида Homo sapiens не будет.
Мировые Чемпионы по го, шахматам и победители телевикторин являются интеллектуальными компьютерными программами. Ожидается, что в течение следующих многих лет ИИ вытеснит многие человеческие профессии.
И, учитывая стремительный темп его развития, в полной мере быть может, что он в недалеком будущем преобразуется в неспециализированный ИИ, что, как и человеческий разум, сможет объединить в себе умение разбирать разнообразную данные, проявлять здравый смысл и гибкость. А оттуда неподалеку и до появления сверхразумного ИИ, что во всех отношениях намного умнее человека — кроме того в таких областях, как научное мышлениеи социальные навыки, каковые на данный момент кажутся прерогативой людской ума. Любой из сейчас живущих людей возможно одной из последних ступеней эволюционной лестницы, ведущей от самой первой живой клетки к синтетическому неестественному интеллекту.
Лишь на данный момент мы начинаем осознавать, что эти две формы сверхчеловеческого интеллекта — инопланетный и неестественный — не так ужи отличаются. Технический прогресс, что мы сейчас замечаем, мог иметь место и прежде, где-то во Вселенной. Переход от биологического интеллекта к искусственно созданному может являться неспециализированным шаблоном, опять и опять реализуемым во всех уголках космоса.
Величайшие разумы Вселенной имеют, возможно, пост-биологическое происхождение, развившись из некогда биологических цивилизаций. (Эту точку зрения, наряду с другими, я разделяю с Полом Дэвисом, Стивеном Диком, Мартином Сетом и Рисом Шостаком). Исходя из опыта человечества — а пример у нас лишь один — переход от биологического к пост-биологическому может занять всего пара сотен лет.
Термину «неестественный» я предпочитаю «пост-биологический», потому, что контраст между биологическим и синтетическим не столь уж и резок. Представьте биологический разум, что делается сверхинтеллектом при помощи чисто биологического расширения собственных возможностей, к примеру нанотехнологически усовершенствованных нейронных миниколонок. Таковой живой организм считался бы пост-биологическим, но не все назвали бы его «ИИ».
Либо разглядим компьютроний, выстроенный из чисто биологических материалов, наподобие к примеру, рейдера сайлонов (космического истребителя) в фантастической медиафраншизе «Звёздный крейсер ‘Галактика’».
Главный момент содержится в том, что нет никаких оснований вычислять человечество наивысшей формой разума. Отечественный мозг приспосабливался к определенным условиям внешней среды и очень сильно ограничен химическими и историческими факторами. Но разработки открыли широкое пространство проектных параметров, которое предлагает новые методы и материалы работы, и новые возможности изучения этого пространства стремительнее, чем при с классической биологической эволюцией.
И я пологаю, что обстоятельства, по которым ИИ нас превзойдет, видны уже сейчас.
Внеземной ИИ может преследовать цели, противоречащие заинтересованностям биологической судьбе.
Уже на данный момент лучшим средством для обработки информации считаются не группы нейронов, а кремниевые микросхемы. Пиковая скорость работы нейронов — около 200 гц, если сравнивать с гигагерцами транзисторов в современных процессорах. Не обращая внимания на то, что человеческий мозг все еще намного разумнее компьютера, автомобили все-таки имеют фактически неограниченные возможности совершенствования.
Еще очень мало и их будут разрабатывать в соответствии с возможностями людской мозга либо кроме того превосходя их, методом усовершенствования и обратного проектирования мозга его методов, или комбинирования рациональных алгоритмов и обратного проектирования, каковые не основаны на работе людской мозга.
Помимо этого, ИИ возможно загружен сходу в нескольких местах, его легко поддерживать и модифицировать, и сохранять в условиях, в которых еле выживает биологическая судьба, включая межзвездные перелеты. Отечественный мелкий мозг ограничен количеством черепной коробки и обменом веществ; сверхразумный ИИ же, наоборот, способен распространятся по интернету а также создать компьютроний в масштабах галактики, задействовав всю ее материю, дабы до максимума поднять уровень обработки информации. Вне всяких сомнений, сверхразумный ИИ был бы намного долговечнее, чем отечественный человеческий разум.
«Мы не увидим, как мир захватит ИИ»
Радио Свобода10.12.2016ИИ делается сверхчеловеческим
Askanews12.11.2016ИИ — новая сфера господства
ИноСМИ02.03.2015
Предположим, я права. Допустим, что где-то в том месте разумная судьба есть пост-биологической. Какие конкретно выводы мы должны сделать?
На данный момент ведутся красноречивые дискуссии на тему существования ИИ на Земле. Существуют два спорных момента: так называемая «природа и» проблема контроля субъективного опыта, каковые влияют на отечественное представление о внеземных их воздействии и цивилизациях на нас при контакта.
Рей Курцвейл дает оптимистический прогноз относительно пост-биологической фазы эволюции, предполагая, что человечество сольется с автомобилями, достигнув поразительного технологического утопизма. Но Стивен Хокинг, Билл Гейтс, Илон Маск и другие выразили обеспокоенность тем, что человечество может потерять контроль над сверхразумным интеллектом, поскольку он может переписать собственную программу и «перехитрить» каждые установленные нами меры контроля. Это и имеется неприятность контроля, заключающаяся в отечественной способности осуществлять контроль таинственный и существенно превосходящий нас в интеллектуальном замысле ИИ.
Сверхразумный ИИ возможно создан в момент технологической сингулярности — резкого перехода, при котором все ускоряющийся технический прогресс, а, в особенности, взрывоподобное развитие ИИ, — уменьшает отечественные шансы предвещать либо осознавать. Но кроме того в случае если таковой разум появится менее радикальным образом, мы, наверное, не сможем угадать либо проконтролировать преследуемые им цели.
Кроме того если бы мы имели возможность выбирать, какие конкретно моральные правила устанавливать в отечественные автомобили, нравственное программирование сложно выяснить понятным всем методом, а такие программы смогут быть в любом случае переписаны сверхразумным интеллектом. «Умные автомобили» смогут обойти существующие меры безопасности, к примеру, аварийную блокировку устройства, воображая тем самым настоящую угрозу биологической судьбе. Миллионы долларов вкладываются в организации, занимающиеся безопасностью ИИ.
Лучшие умы в области информатики и вычислительной техники трудятся над данной проблемой. Будем сохранять надежду, что ученые создадут надёжные совокупности, но имеется опасения, что неприятность контроля непреодолима.
В свете этого, контакт с инопланетным разумом возможно страшнее, чем мы думаем. Биологические инопланетные существа смогут быть враждебны, но еще громадную опасность может воображать внеземной ИИ. Его цели смогут противоречить заинтересованностям биологической судьбе, он может владеть интеллектуальными свойствами, существенно превосходящими человеческий разум, и намного большей долговечностью если сравнивать с биологической судьбой.
Все это говорит об осторожности, которую направляться проявлять в отношении программы поиска внеземного разума (SETI), благодаря которой мы не только пассивно ожидаем услышать сигналы от вторых цивилизаций, но и сознательно «афишируем» собственный существование. Самый узнаваемый случай случился в первой половине 70-ых годов XX века, в то время, когда Фрэнк Дрейк и Карл Саган посредством огромного радиотелескопа в пуэрториканском городе Аресибо послали послание в одно из звездных скоплений. Приверженцы программы поиска внеземного разума считают, что вместо того, дабы только прислушиваться к сигналам внеземных цивилизаций, нам направляться отправлять послания ближайшим к Почва звездам, применяя самые замечательные радиопередатчики, такие как в Аресибо.
Из-за чего не владеющие сознанием автомобили должны быть столь же значимы, как биологический интеллект?
С позиций неприятности контроля такая программа думается мне безрассудной. Не смотря на то, что у вправду развитой цивилизации к нам, возможно, интереса не появилось бы, трагедией стала бы кроме того одна враждебно настроенная цивилизация из миллионов вторых. До тех пор пока у нас нет уверенности в том, что сверхразумный интеллект не воображает для нас опасности, человечеству не следует привлекать к себе внимание внеземных цивилизаций.
Приверженцы программы SETI обращают внимание на то, что радиосигналы и наши радары уже определимы, но довольны не сильный и скоро смешиваются с естественным галактическим шумом. Передача более сильных сигналов, каковые будут совершенно верно услышаны, чревата страшными для человечества последствиями.
Самая надёжная установка — это интеллектуальная скромность. И так как вправду, в случае если исключить очевидные сценарии, в то время, когда инопланетные суда парят над Почвой, как в сравнительно не так давно вышедшем фильме «Прибытие», я сомневаешься, сможем ли мы по техническим показателям выяснить сверхразумный интеллект. Кое-какие ученые считают, что сверхразумный ИИ может подпитывать черные дыры либо создавать сферы Дайсона, мегаструктуры, поглощающие энергию целых звезд.
Но с позиций отечественных новейших технологий, это только рассуждения. Очень самоуверенно утверждать, что мы можем предвидеть энергетические потребности и вычислительные способности цивилизаций, опережающих нас в развитии на миллионы, если не миллиарды лет.
Кое-какие из первых сверхразумных неестественных интеллектов имели возможность владеть смоделированными по примеру биологического мозга совокупностями обработки знаний, как, к примеру, созданная на примере нейронных сетей мозга совокупность глубинного обучения. Их вычислительная структура была бы нам понятна, хотя бы в общем. Быть может, у неестественного разума схожие с биологическими существами цели — выживание и размножение.
Но, будучи самосовершенствующейся совокупностью, сверхразумные неестественные интеллекты смогут перейти в нераспознаваемую форму. Кое-какие из них, быть может, предпочтут сохранить когнитивные функции, подобные тем видам, по примеру которых они были смоделированы, установив наряду с этим допустимый предел собственной когнитивной архитектуры. Кто знает?
Но при отсутствия для того чтобы предела инопланетный сверхразум может скоро превзойти отечественную свойство не только понимать его действия, но кроме того его. Быть может, он бы кроме того слился с естественными изюминками Вселенной; а возможно, он имеется часть чёрной материи, как сравнительно не так давно предположил Калеб Шарф.
Приверженцы программы поиска внеземного разума считают, что именно исходя из этого мы и должны отправлять сигналы в космос, дабы позволить инопланетному разуму найти нас и создать доступные для отечественной отстающей в интеллектуальном развитии цивилизации средства контакта. Не смотря на то, что я согласна, что имеется обстоятельство принимать во внимание с программой SETI, возможность столкнуться с страшным сверхразумным интеллектом значительно важнее.
Как нам известно, вредоносный сверхразум имел возможность бы заразить мировые совокупности ИИ вирусами, а разумные цивилизации создали бы маскировочные устройства. Нам, людям, быть может, нужно сперва добиться собственной неповторимости, прежде, чем прибегать к программе поиска внеземного разума.
Отечественные личные сверхразумные интеллекты смогут информировать нас о возможностях галактической безопасности, и направлять отечественные действия при распознавания показателей наличия другого сверхразума во Вселенной. Рыбак рыбака видит издали.
В полной мере конечно думать о том, свидетельствует ли это, что человечеству нужно избегать развития сложной совокупности ИИ в области космических изучений; вспомните хотя бы бортовой компьютер ХЭЛ из фильма «Космическая Одиссея2001 года». Я считаю, что еще рано думать о запрете на применение ИИ в космосе в будущем.
К тому времени, в то время, когда мы сможемисследовать Вселенную при помощи собственного ИИ, человечество достигнет переломного момента. Мы или уже утратим контроль над неестественным разумом – при таких условиях не будет никаких инициированных людьми космических проектов — или будем прочно удерживать рычаги безопасности ИИ. Время продемонстрирует.
Не изученный до конца ИИ — не единственная обстоятельство для тревоги. Мы, в большинстве случаев, ожидаем, что, в случае если столкнемся с развитым внеземным разумом, то, возможно, встретим биологически очень сильно отличающихся от нас существ, но владеющих разумом, подобным отечественному. Представьте, что в любую секунду, в то время, когда вы бодрствуете и неизменно, в то время, когда спите, имеется что-то характерное лишь для вас.
В то время, когда вашему взгляду предстают утепленные оттенки рассвет либо вы вдыхаете запах свежеиспеченного хлеба, то приобретаете сознательный опыт. Совершенно верно так же существует что-то характерное и для инопланетного разума — по крайней мере, то, как мы это себе воображаем. Но такое предположение стоит подвергнуть сомнению.
Может ли сверхразумный ИИ владеть сознательным опытом, и, в случае если да, что бы мы на это сообщили? И какое влияние на нас оказал бы их внутренний мир либо его отсутствие?
Вопрос о том, владеет ли ИИ внутренним миром, и имеется ключ к нашей оценке его существования. Сознание есть основа отечественной морально-нравственной совокупности и главным условием к восприятию кого-то либо чего-то как индивидуума, личности, а не автомобили. И напротив, вопрос о том, владеют ли они сознанием, возможно ключом к их восприятию нас.
От данной оценки зависит ответ на вопрос, владеет ли неестественный разум внутренним миром; он может найти в нас способности к сознательному опыту, применяя в качестве «трамплина» личный субъективный опыт. В итоге, мы оцениваем жизнь вторых биологических существ по схожести отечественных сознаний, исходя из этого большая часть из нас в кошмаре откажутся убивать шимпанзе, а вот яблоко съедят с наслаждением.
Но как именно существа с огромными интеллектуальными различиями, созданные из различных субстратов, выявят друг в друге сознание? Философы всей земли думали над тем, ограничено ли сознание биологическими явлениями. Сверхразумный ИИ, в случае если уж погружаться в философские рассуждения, имел возможность бы схожим образом поднять «проблему биологического сознания» людей, задаваясь наряду с этим вопросом, располагаем ли мы всем нужным материалом.
Только бог ведает, какой интеллектуальный путь выберет сверхразум для определения сознательности людей. Но мы с отечественной стороны также не можем утверждать, владеет ли ИИ сознанием. Выяснить это будет, к сожалению, тяжело.
Прямо на данный момент вы имеете возможность утверждать, что приобретаете опыт, и это то, что делает вас самими собой.
Вы — собственный личный пример сознательного опыта. И вы вычисляете, что другие люди и кое-какие нечеловекоподобные животные, вероятнее, также сознательны, потому, что схожи с вами на нейрофизиологическом уровне. Но как вы выясните, может ли иметь опыт что-то, созданное из полностью иных субстратов?
Разглядим, например, сверхразум, созданный на кремниевой базе. Не обращая внимания на то, что и кремниевые микрочипы и нейронные миниколонки обрабатывают данные, мы сейчас знаем, что на молекулярном уровне они смогут различаться методами влияния на сознание. В итоге, мы полагаем, что углерод — материал химически более подходящий для жизни, нежели кремний.
В случае если химические различия между углеродом и кремнием воздействуют на что-то столь же ответственное, как сама жизнь, мы не должны исключать возможность того, что химические же различия воздействуют и на другие главные функции, к примеру, то, содействует ли кремний зарождению сознания.
Условия, нужные для происхождения сознания, обширно обсуждаются исследователями ИИ, нейробиологами и философами. Ответ этого вопроса имело возможность бы "настойчиво попросить" основанного на философии эмпирического подхода — метода определения для каждого конкретного случая того, поддерживает ли совокупность обработки информации сознание и при каких условиях.
Потом поболтаем о предположении, благодаря которому мы имели возможность бы улучшить отечественное познание свойства кремния поддерживать сознание. Разработка мозговых чипов на базе кремния уже ведется для лечения таких связанных с памятью болезней, как заболевание Альцгеймера и посттравматические стрессовые расстройства.
В то время, когда придет время, и чипы будут устанавливать в те участки мозга, что несут ответственность за функции сознания, к примеру внимание и рабочую память, к нам придет познание того, есть ли кремний субстратом сознания. Имело возможность бы обнаружиться, что при замене отдельного участка мозга чипом происходит утрата определенного опыта так, как это описывается в одной из работ Оливера Сакса.
При таких условиях, создающие подобные чипы инженеры имели возможность бы попытаться другой, не нейронный вид субстрата, но имели возможность бы, в итоге, понять, что созданный из биологических нейронов чип есть единственным рабочим. Подобная методика помогла бы выяснить, может ли совокупность ИИ быть сознательной, по крайней мере, тогда, в то время, когда она помещена в более большую и предположительно уже владеющую сознанием совокупность.
ИИ сможет испытывать эмоции
Кэцзи жибао01.12.2016искусственный интеллект и Человек
«Нихон кэйдзай»01.05.2016Ученые вырастили неестественный хрящ
Санкэй симбун03.03.2015
Кроме того в случае если кремний может дать начало сознанию, вероятно это только в определенных условиях. Свойства, приводящие к происхождению процесса обработки информации (о котором радеют разработчики ИИ), смогут различаться от особенностей, порождающих сознание. Может потребоваться так называемая инженерия сознания — технически продуманные действия по внедрению сознания в автомобили.
Вот что вызывает у меня беспокойство. Кто на Земле либо на далеких планетах стал бы пробовать самостоятельно встроить сознание в совокупности ИИ? Вправду, в то время, когда я думаю о существующих на Земле программах ИИ, я осознаю, по каким обстоятельствам их инженеры-разработчики старательно избегают разработки сознательных автомобилей.
Сейчас Японцы разрабатывают роботов для ухода за пожилыми людьми, очистки ядерных участия и реакторов в военных действиях. Вследствие этого появляется вопрос: этично ли эксплуатировать роботов, если они владеют сознанием? И чем это будет различаться от разведения для этих целей людских существ?
Если бы я была главой департамента по разработке ИИ в компании Гугл либо Facebook, то, думая о будущих проектах, мне бы не хотелось столкнуться с этической путаницей при случайном проектировании наделенной сознанием совокупности. Разработка таковой совокупности может привести к обвинениям в порабощению роботов и вторым публичным скандалам, и к запрету применения разработок ИИ в тех областях, для которых они предназначались. Естественным ответом на эти вопросы есть поиск субстратов и структур, где роботы сознанием не наделены.
Более того, устранение сознания возможно более действенно для самосовершенствующегося сверхинтеллекта. Поразмыслите о том, как трудится человеческое сознание. Лишь маленький процент людской мышления доступен для сознательной психологической деятельности.
Сознание согласуется с инновационными задачами обучения, каковые требуют сосредоточенности и внимания.
Сверхразум владел бы экспертными знаниями в каждой области деятельности, и неимоверно стремительной скоростью обработки информации с охватом огромных баз данных, каковые имели возможность бы включать в себя целый интернет, а в возможности сосредоточить в себе целую галактику. Что осталось бы для него неизведанным? Что потребовало быразмеренной и обоснованнойсосредоточенности?
Разве он не добился совершенства во всем?
Подобно умелому водителю на привычной дороге, он имел возможность бы надеяться на бессознательный (непроизвольный) процесс обработки информации. С позиций эффективности, к сожалению, очевиден тот факт, что большая часть интеллектуальных совокупностей сознанием владеть не будут. В космических масштабах сознание возможно только импульсом, краткосрочным расцветом опыта перед тем, как Вселенная опять возвратится к бездумности.
В случае если люди заподозрят, что неестественный разум не имеет сознания, они, точно, испуганно предположат, что ИИ пытается стать пост-биологическим. А это усиливает отечественные экзистенциальные тревоги. Из-за чего не владеющие сознанием автомобили должны быть столь же значимы, как биологический интеллект?
Совсем не так долго осталось ждать люди прекратят быть единственными разумными существами на Земле. И, быть может, где-то в космосе не биологическая судьба, а сверхразумный ИИ уже достиг пика собственного развития. Но, быть может, биологическая судьба имеет иное отличительное свойство – сознательный опыт.
Как мы сейчас знаем, разумный ИИ потребует взвешенных инженерных упрочнений для автомобилей, которым были бы дешёвы человеческие эмоции. Быть может, кое-какие виды сочтут целесообразным создавать собственных детей с неестественным сознанием. Либо, возможно, будущее человечество займется инженерией сознания и поделится со Вселенной собственной сознательной свойством ощущать.
Сьюзан Шнайдер — доцент кафедры философии и когнитивных наук в Университете Коннектикута и аффилированный учитель Университета перспективных изучений, Центра теологических изучений, технологии и группы этики Йельского междисциплинарного центра биоэтики. Создатель нескольких книг, среди которых «философия и Научная фантастика: от путешествий во времени к сверхразуму». Более подробную данные возможно обнаружить сайте SchneiderWebsite.com.
Подписывайтесь на отечественный канал в Telegram!
Каждый день вечером вам будет приходить подборка самых броских и занимательных переводов ИноСМИ за сутки.
Отыщите в контактах@inosmichannelи добавьте его к себе в контакты либо,
предварительно пройдя регистрацию, перейдите на страницу канала.
