Развитие нейротехнологий реально угрожает вторжением в личность каждого человека
«Череп — это бастион приватности; мозг — последняя конфиденциальная часть нас самих», — сказал нейрохирург Том Оксли, основатель Synchron, разработавшей импланты, позволяющие посылать электронные сообщения силой мысли. Пока использование технологии нейроимплантации вне медицины остается чем-то умозрительным, но в утопическом сценарии может привести к полной потере человеком способности контролировать свои мысли. Правительство некоторых стран уже принимает меры по защите своих граждан от такой опасности.
В июле этого года австралийская Synchron стала первой компанией мира, получившей разрешение Управления по санитарному надзору (FDA) США на проведение клинических испытаний нейроинтерфейса на людях. Том Оксли и его коллеги уже вводили электроды парализованным пациентам через кровеносные сосуды. Электроды фиксировали активность мозга и отсылали данные в компьютер, который интерпретировал их и выполнял команды, например, отправлял электронные письма.
Для людей, лишенных возможности общения словами и жестами, импланты могут стать единственным способом коммуникации. Кроме того, развивается технология медицинского стимулирования мозга электрическими импульсами для лечения когнитивных расстройств.
Однако использование технологии в коммерческих целях может привести к падению последнего бастиона приватности, в результате чего человек лишится возможности контролировать процессы, происходящие в собственном мозге, пишет Guardian.
В 2017 биоэтик из Европы Марцелло Иенка предложил ввести новый класс прав: нейроправа, то есть свободу решать, кому позволено мониторить, читать или менять мои мысли. Профессор Иенка консультирует Евросоюз, ООН, ОЭСР и правительства по вопросам нейротехнологий и защиты от них неприкосновенности нашего сознания. Еще пять лет назад он говорил, что технология, разработанная для декодирования и изменения активности мозга, обладает потенциалом воздействовать на личность человека.
Людям нужна не только защита от злоупотребления нейротехнологиями, но и возможность самим решать, какого рода воздействие на свой мозг посредством нейробиологии они согласны допустить.
Подобная технология уже начинает распространяться. По словам Дэвида Гранта, исследователя из Университета Мельбурна, гарнитуры, усиливающие концентрацию, уже используются в китайских школах. Устройства, отслеживающие уровень усталости, применяют в шахтах Австралии. Где и как хранятся и используются данные активности мозга пользователей — трудно установить и еще труднее контролировать.
Грант не надеется на то, что проблему можно решить введением прав и законов. Он предлагает разработать алгоритмы, которые будут ограждать мозг человека от цифрового мира, защищать его от вторжения.
«Не то чтобы у нас может появиться какая-то нелепая утопия, кода одни люди контролируют мозг других, заставляя их выполнять команды. Но может быть скучная утопия… Посмотрите на компании, собирающие личные данные, прежде всего, на Facebook и Google. Они пытаются создать модель личности человека, чтобы потом использовать ее», — сказал Грант.
В сентябре 2021 правительство Чили одобрило законопроект, гарантирующий всем жителям право психической целостности. Проекты законов, регулирующие нейротехнологии, цифровые платформы и использование ИИ, также проходят рассмотрение в сенате страны. Во Франции в этом году ввели закон о биоэтике, защищающий право на психическую целостность. Испания разрабатывает закон о цифровых правах, в котором есть параграф, посвященный имплантам. Власти Италии размышляют, попадает ли психическая неприкосновенность под действующий в стране закон о приватности.
Весной этого года стартап Илона Маска Neuralink показал возможности последней версии нейроинтерфейса: на видео обезьяна управляет курсором на экране с помощью вживленного в мозг чипа. В будущем эта технология позволит пользоваться смартфоном силой разума быстрее, чем некоторые печатают пальцами.
Однако ученых пугает тот факт, что ИИ уже начал оказывать большое влияние на мир, и это пугает разработчиков.
Специалист в области искусственного интеллекта, основатель Центра совместимого с человеком ИИ при Калифорнийском университете в Беркли профессор Стюарт Рассел заявил, что его коллеги «напуганы» собственными успехами в этой сфере и сравнил прогресс в развитии ИИ с созданием атомной бомбы. Почти все эксперты считают, что еще в этом веке будут изобретены машины, превосходящие человека по интеллекту, сказал он и призвал к срочному регулированию этой технологии на международном уровне.
«Сообщество ИИ еще не привыкло к факту, что мы начали оказывать очень большое влияние на реальный мир, — сказал профессор Рассел в интервью Guardian. — На протяжении большей части истории этой отрасли такого не было — мы просто сидели в лабораториях, разрабатывали, пытались сделать так, чтобы оно заработало, чаще всего впустую. Так что вопрос реального воздействия на мир был совершенно неуместным. И нам нужно было очень быстро расти, чтобы не отставать».
Искусственный интеллект начал проникать во многие сферы жизни, от поисковых систем интернета до банков, и прогресс в распознавании изображений и машинном переводе — одни из главных достижений последних лет. Стюарт Рассел, который в этом году будет читать на радио ВВС цикл лекций под названием «Жизнь с искусственным интеллектом» («Living with Artificial Intelligence»), считает, что необходимо срочно обеспечить контроль над разработкой сверх-интеллектуального ИИ.
По мнению Рассела, ИИ, созданный для решения узких задач, слишком рискованно использовать для решения реальных проблем. К примеру, опасно просить ИИ как можно скорее решить проблему рака. «В таком случае он, скорее всего, найдет способ пересадить раковые клетки всему человечеству, чтобы провести миллионы экспериментов параллельно, используя всех нас как подопытных свинок, — сказал ученый. — И все потому, что это решение задачи, которую мы ему дали. Просто мы забыли уточнить, что нельзя проводить эксперименты на людях и использовать весь всемирный ВВП на проведение экспериментов, и еще много чего нельзя».
Профессор считает, что между нынешним ИИ и тем, который показывают в фантастических фильмах вроде «Ex Machina», все еще есть большая разница, но будущее, где машины умнее людей, вполне вероятно. «Думаю, что сроки варьируются от 10 лет, в самом оптимистичном сценарии, до нескольких сотен, — сказал он. — Но почти все исследователи ИИ скажут, что это произойдет в этом веке».
Проблема в том, что ИИ не нужно быть умнее человека, чтобы представлять для него серьезную опасность. За примерами далеко ходить не нужно — достаточно взглянуть на алгоритмы социальных сетей, решающие, что люди должны читать и смотреть. У них уже огромное влияние на восприятие людей. И разработчиков ИИ, по мнению Рассела, пугает собственный успех.
«Это немного напоминает то, что происходило в физике, когда ученые поняли, что атомная энергия существует, что они могут измерить массу различных атомов и понять, сколько энергии высвободится, если одни типы атомов превратятся в другие. А потом это произошло, и никто не был к этому готов», — пояснил Рассел.
Ученый убежден, что будущее ИИ лежит в развитии машин, которые, как вышколенные слуги, по всем вопросам обращаются к людям, не принимая решений самостоятельно. Следует исходить из того, что у разных людей могут быть различные — и иногда конфликтующие — предпочтения, и они меняются со временем. Он призывает ввести для разработчиков и организаций некий кодекс, обеспечивающий непредвзятость ИИ. Также следует распространить на весь мир действующий в ЕС запрет на маскировку машин под человека.
Через пять лет ИИ даст возможность алгоритмам «читать правовые документы» и «давать медицинские советы», считает сооснователь и президент некоммерческой организации OpenAI Сэм Альтман. Через десять машины массово встанут за конвейер и, возможно, даже станут компаниями. Еще позже ИИ будет делать почти все, включая научные открытия. В итоге ИИ создаст «феноменальное изобилие», но при этом цена труда упадет почти до нуля.
По материалам hightech.plus
Источник: potustorony.ru
