Автор: slusarenko. Не нужно быть сверхразумным искусственным интеллектом, чтобы понять: двигаться навстречу величайшему событию в истории человечества и не готовиться к этому – просто глупо. / МАКС ТЕГМАРК (Массачусетский технологический институт)

Неизбежность революции… Технической революции

Непросто так эти слова являются эпиграфом к данной статье, ведь в век информационных технологий и проходящей незаметно для всех обывателей технической революции только слепой не заметит насколько стремительно проходит процесс компьютеризации и роботизации с внедрением искусственного интеллекта во все сферы деятельности человека.

Увеличение мощности компьютеров, уменьшение их размеров и снижение цены производства – следствия так называемого «закона Мура», который был сформулирован больше пятидесяти лет назад Гордоном Муром – тогда еще будущем основателем компании Intel.

Зависимость числа транзисторов на кристалле микропроцессора от времени. Обратите внимание, что вертикальная ось имеет логарифмическую шкалу, то есть прямая линия соответствует экспоненциальному закону — количество транзисторов удваивается примерно каждые 2 года.

На самом деле это просто эмпирическое, то есть основанное на опыте наблюдение: мощность компьютеров, обусловленная увеличением количества транзисторов, уменьшающихся на кристалле интегральной платы, а также ростом их таковой частоты, удваивается каждые 18 месяцев. Тогда как с ценой происходит обратная ситуация – примерно каждые два года она в два раза уменьшается.

Журнал «Scientific American» привёл такую аналогию: если бы авиапромышленность последние 25 следовала «закону Мура», то сейчас Boeing 767 стоил бы 500 долларов, совершал облет земного шара за 20 минут и затрачивал на это менее 20 литров топлива.

Да, цифровой мир живет по своим закона Мура и Курцвейла.

Говоря о стремительном развитии информационных технологий нельзя не сказать уже о вышеупомянутом американском ученном Реймонде Курцвейле, который известен научными технологическими прогнозами, учитывающими появление искусственного интеллекта и средств радикального продления жизни людей. Он придумал так называемый закон ускоренной отдачи, согласно которой развитие технологий происходит экспоненциально, то есть чем мощнее становится та или иная технология, тем большее ускорение в своем развитии она приобретает.

Иллюстрация сути задачи

Для большего понимания достаточно вспомнить притчу о шахматах, согласно которой мудрец, изобретший шахматы, по имени Сисса, в качестве награды у короля попросил за первую клетку одно зерно пшеницы, за вторую – два, за третью – четыре и так далее. Нетерпеливый король не задумываясь согласился на условия мудреца, но количество зерна превысило весь урожай пшеницы, собранный за всю историю человечества. Эта простенькая математическая задача демонстрирует высокий рост экспоненциальной последовательности.

Страх – убийца разума

Получив представление об окружающей нас обстановке и помечтав о прекрасном будущем, в котором нас будут окружать технологии, способствующие увеличению среднего возраста жизни, о мире в котором нет болезней, в котором нам стоит лишь подумать о чем-либо, а это уже действительность, вернемся в реальность.

Touch ID, Face ID – эти слова уже на слуху у всех, но вы когда-нибудь задумывались как они могут быть использованы против вас? Мы не задумываясь указываем их везде и повсеместно, но не стоит забывать, что существуют еще идентификации по радужной оболочке глаз, геометрии руки, томографии лица, ДНК, акустических характеристик уха, рисунку вен. Такие данные создают полный портрет их носителя и выкладывают на блюдечке всю информацию о человеке.

Сканер объёмно-пространственной формы лица человека

В последнее время очень много людей говорят о том, что банки собирают биометрические данные своих клиентов. Это позволит клиентам, во-первых, пользоваться банковскими услугами через интернет, во-вторых, банк обещает, что скоро их банкоматы будут узнавать своих клиентов в лицо. Также постепенно роботы заменят сотрудников операционистов во всех его отделениях, а для того, чтобы робот смог работать с клиентом нужны биометрические данные этого клиента. В итоге уже сейчас сотрудники многих банков сообщают, что это для вашего блага и удобства. Они пытаются всяческим путем хотят взять биометрические персональные данные – образец вашего голоса и изображения лица. Да-да, именно всяческими путями, об этом подробнее расскажу далее.

Желание банков автоматизировать работу с клиентами и заменить банковских работников способных совершать ошибки на автоматы вполне понятно, однако проблема в том, что люди ещё не привыкли доверять банкам и тем более если речь идет о предоставлению банку своих биометрических данных. Люди опасаются, что такие данные банки могут передавать третьим лицам, например, коллекторам. Банки могут утерять такие данные и они утекут в открытый доступ, как было недавно с базами данных клиентов нескольких крупных банков страны. В конце концов с прогрессом дружат не только банки, но от него не отстают, а иногда и идут на шаг впереди и мошенники.

Например, банки хотят в ближайшем будущем выдавать кредиты через интернет с распознаванием обратившегося за кредитом человека по его биометрическим данным, если такой человек предоставлял любому банку такие данные ранее при оформлении кредита. Но возможно и здесь мошенники преуспеют и научатся подделывать такие данные, поэтому люди испытывают некоторые опасения.

Защита конфиденциальной информации пользователя

Биометрия и искусственный интеллект, как мы уже поняли, непосредственно связаны друг с другом. С каждым годом становится все больше данных о клиентах банка, они растут в геометрической прогрессии. С каждой новой порцией ценность отдельно взятой изолированной информации снижается. Иными словами, сигналов становится больше, но при этом каждый из них все слабее. Лишь анализ их совокупности позволит выработать сильные сигналы. Поэтому рано или поздно искусственный интеллект станет неотъемлемой частью.

Распространяется ли правовая основа на робота?

Пример сбора биометрии сотрудницей банка

Теперь давайте рассмотрим такой вопрос. Можно ли отказаться от предоставления биометрии банку и как это может повлиять на позицию банка по выдаче кредита карты или оформление другого банковского продукта? Сегодня иногда бывает так, человек приходит в банк за оформлением документов и его никто не спрашивает «согласен ли гражданин пройти процедуру сдачи биометрии или нет?». На него просто направляют камеру и просят сказать несколько слов. Конечно же такие действия сотрудника банка незаконны в соответствии с законом номер 115 «О противодействии легализации доходов, полученных преступным путем», банкам разрешается размещать и обновлять биометрические персональные данные гражданина в электронной базе, но только при его добровольном согласии на такую процедуру.

Но сотрудник банка может сумничать и сказать, что вы уже раньше давали согласие на передачу своих персональных данных банку, однако персональные данные и биометрические данные это разные вещи. Первое это сведение вашего паспорта, а второе это ваше отображение на фото, видео, отпечатки ваших пальцев, радужка оболочки глаз, образцы волос и другие биологические сведения. Поэтому если даже клиент и подписал ранее договор, где есть пункт, что он согласен на передачу, обработку банком персональных данных, у банка все равно нет права записывать биометрические сведения такого человека.

Если обратить внимание на статью 11 федерального закона о персональных данных, то в ней конкретизировано, что получать биометрические данные можно только с письменного согласия человека, то есть прежде чем фотографировать, снимать вас на видео и записывать ваш голос сотрудник банка должен показать вам в договоре пункт в котором указано то, что вы согласны предоставить банку свои биометрические данные и только после подписания такого договора и тем самым вашего согласия, на вас уже могут нацеливать объектив камеры. В случае нарушения вашего права и получения банком вашего изображения без вашего письменного согласия, можно обратиться в суд с исковым заявлением о возмещении морального вреда, причиненного незаконными и непрофессиональными действиями банка.

Таким образом, действуя на опережение, государство должно задуматься о создании действенных механизмов защиты разрабатываемых геномных баз данных, в том числе путем совершенствования правовой системы. Защита же генетической информации и генетических баз данных, гарантирующая их безопасность от всякого рода посягательств, должна осуществляться именно на государственном уровне под контролем соответствующих государственных органов.

Иллюстрация защиты данных пользователей

Да, это конечно всё понятно, что цепочка человек – биометрические данные – человек может контролироваться законом, но давайте рассмотрим такую цепочку как человек – биометрические данные – робот. Задумались? Может и при нынешнем уровне развития искусственного интеллекта человечеству не грозит восстание машин. Более актуальной угрозой представляется применение недостаточно обученного искусственного интеллекта в жизненно важных сферах, а также попытки его использования для того, чтобы поставить под контроль жизнь человека.

В будущем может такая угроза, как самостоятельного принятия решений искусственным интеллектом. Ситуация заключается в том, что, когда система получит модель самой себя, то у нас появится искусственный интеллект, который может отказаться выполнять поставленную ему задачу и начнет принимать собственные решения. Для этого необходимо заранее предусмотреть все меры, препятствующие выходу искусственного интеллекта из-под контроля.

Нейронная сеть, как она есть

Не менее утешительные прогнозы совсем недавно продемонстрировала нейросеть MT-NLG, разработанная Оксфордским университетом, которая в свою очередь заявила, что: «Способность предоставлять информацию, а не товары и услуги, станет определяющей чертой экономики 21 века. Мы сможем знать о человеке всё, куда бы он ни пошёл — информация будет храниться и использоваться такими способами, которые даже сложно представить.»

«Не стоит недооценивать искусственный интеллект!» – это главный вывод. По сути мышление – поведенческий навык, а всякий навык имеет свойство утрачиваться, что касается человеческого мозга. Никто не отменял принцип «мягкой силы», используемый искусственным интеллектом на невидимом поле боя, поэтому подытожив все вышеперечисленное, скажу, что жизнь человеческого рода полностью лежит на его же плечах, с какой долей ответственности человек подойдет к своему развитию, так он и будет существовать.