Герман Греф и Ольга Ускова о будущем искусственного интеллекта
18 февраля 2020 года в НИТУ МИСиС состоялась Визионерская лекция Президента, Председателя Правления ПАО Сбербанк Германа Грефа и Генерального директора Cognitive Pilot Ольги Усковой «НЕЙРОЭВОЛЮЦИЯ. КАК ЖИТЬ И УСПЕВАТЬ В НОВЫХ РЕАЛИЯХ: HUMAN + AI»
Представляем расшифровку и видео с лекции.
Алевтина Черникова: Добрый день, дорогие друзья! Я очень рада приветствовать вас здесь, в НИТУ МИСиС, в Университете науки и технологий. Сегодняшнее событие, как мне кажется, надолго оставит неравнодушным каждого, кто здесь присутствует: это лекция, которая будет мотивировать вас двигаться вперед. Спасибо вам, что вы сегодня с нами.
Ольга Ускова: Я сразу приношу извинения, потому что эта история – вне большого разговора, но она случилась 11 января, когда мы уже начали планировать лекцию, и я, с разрешения участников этой истории, озвучу ее сейчас, потому что она перевернула все то, что я хотела сегодня сказать, и это очень важно. 11 января 2020 года, в дачном поселке на Новой Риге, погибла девятилетняя девочка, дочь моего близкого друга. Это произошло днем, ее сбила машина. За рулем был аспирант МГУ, 22-летний мальчик. В поселке есть улица, где идет спуск с горки. Девочка побежала за котенком, парень съезжал с этой горки, отвлекся, поздно увидел девочку, запаниковал, крутанул руль, и машину занесло на ту обочину, где была девочка с котенком. За долю секунды кончилась одна жизнь, принципиально изменилась жизнь родителей это девочки, Насти, да и даже моя жизнь, в общем-то. За три дня до этого события мы поздравляли ее с новым годом и планировали совместный поход на “Питера Пена”. Жизнь этого мальчика, который сбил девочку, и жизни его родителей, как бы ни решил суд, уже не будут такими, как раньше. И, пока это все происходило, пока были разговоры с родителями, у меня в голове возникало одно слово: необратимость. Невозможно ничего изменить. Когда в нашу жизнь приходит необратимость, мы беспомощны. Это самое страшное, что может произойти. И те новейшие технологии, про которые мы будем рассказывать, которые существуют уже сегодня,а не в будущем, на которые мы сейчас кладем свои жизни, свое время и свой талант, направлены на то, чтобы в нашей жизни осталось как можно меньше вещей, которые мы не контролируем, которые необратимы. Я хотела начать с этой истории, чтобы была понятна моя личная цель.
Софико Шеварнадзе: Технологическая революция, которую мы сейчас проживаем, тесно ассоциируется не только со словом “неотвратимость”, но и со словом “неопределенность”. Во всяком случае, это так для моего поколения – я не родилась с айфоном в руках, но не представляю своего существования в социуме без него. Те революции, которые происходили раньше, определялись тем, что человечество хотело выйти на новый уровень жизни, сэкономить время, силы, обуздать природу, но эта революция связана именно с неопределенностью. Я сейчас собираюсь рожать, и ловлю себя на том, что гораздо больше думаю о мире, в котором появится мой ребенок, нежели о самом процессе. Неопределенность – это новая грань, через которую человечество должно переступить, чтобы полность понять и прожить эту новую революцию. А в чем она состоит для вас?
Ольга Ускова: Можно обратиться к залу? Поднимите руки, кто считает, что впереди будет война между людьми и роботами, и кто боится этого. Я хочу сказать, что страх – это одно из самых сильных чувств. Страх и жадность, так нас сделала природа. Зачастую многие вещи диктуются именно страхами: попытки противопоставить искусственный интеллект и человека, робота и человека, попытка придать какой-то голливудский размах тому, что мы делаем. Все время ожидаешь, что возникнет два лагеря, два класса, которые будут воевать. На самом деле, искусственный интеллект и роботов производим мы, люди – я лично знаю некоторых из тех, кто сидит здесь и производит роботов. Конкуренция существует не между людьми и роботами, а между людьми, производящими роботов разного качества.
Есть такой интересный профессор по имени Ясон Бадридзе – уникальный человек, этолог, он занимается вопросами выживания биологических видов. Я мечтаю его привезти в МИСиС и в Сбер, я обязательно это сделаю, когда не будет проблем с визами. Он говорит, что ключевая проблема сейчас – это перенаселенность. Действительно, за последние сто лет нас стало больше в четыре с половиной раза, и социальные системы, которые человечество развивало все это время, не успевают за такой скоростью роста. Произошел слом основного закона социальной резистенции. Дело в том, что каждый биологический вид имеет свой уровень социальной резистенции – количество контактов, которое он выдерживает без слома психики. Грубо говоря, стая волков не может насчитывать больше двадцати особей. Лишние всегда изгоняются: для них нет роли, они не могут нормально общаться, они вызывают сбой работы стаи. Человечество перевалило порог критической резистенции, и особенно этому способствовал Интернет и развитие социальных сетей. Мы уже не выдерживаем такого количества социальных связей. Из-за этого человечество сильно заболело. Количество психических болезней – простите, но я сейчас буду говорит о вещах, о которых говорить не принято – стало проблемой номер один, серьезнее, чем онкология. Это связано с тем, что мы не справляется с тем объемом информации, объемом деятельности, скоростью происходящего вокруг нас, которые на нас свалились.
Нам надо себя прокачать. Нам нужны помощники, иначе мы будем неконкурентоспособны. Поднимите руку, кто, забыв телефон дома, начинает нервничать, впадает в панику, возвращается за телефоном или просит его привезти, и в целом чувствует себя некомфортно. (…) Вы знаете, есть такое модное течение, практически религия – трансгуманизм. Оно говорит, что современного человека нужно дополнять – различными гаджетами, чипами и так далее. Кто готов вживить себе чип, чтобы знать еще четыре языка без обучения? (…) А кто считает вживление чего-либо в свой организм неприемлемым? (…) Хочу огорчить вторую группу: здесь нет принципиальной разницы. Вживляете ли вы гаджет под кожу или таскаете с собой, вы уже дополненный человек, трансгуманоид. Я сейчас покажу вам еще один гаджет: вот так выглядит искусственный мозг для транспорта четвертого уровня, АДС. С ним транспорт понимает дорогу и едет сам. Если через пять лет я спрошу, кто из вас нервничает, забыв вот эту штуку поставить в свой транспорт, вы точно так же поднимете руку: без нее вы будете неконкурентоспособны так же, как вы неконкурентоспособны сегодня без мобильного телефона. Отвечая на вопрос Софико, я хочу сказать, что у нас нет выбора. Мы не должны бороться с прогрессом, мы должны его возглавить. Мы можем быть конкурентоспособны только за счет наших креативных возможностей и за счет того, что мы делаем ИИ и роботов лучше, чем другие группы людей.
СШ: Спасибо большое. Герман Оскарович, в продолжение я хочу спросить вас. Вот Оля говорит, что неопределенность – это когда боитесь того, чего вы не знаете, а бояться не надо. Чувство неопределенности будущего тесно связано с теми страшилками, которые нам рассказывают про искусственный интеллект. То ли роботы скоро заменят наших партнеров, и нам придется их любить, то ли будет оружие массового поражения с дронами, то ли над нами возьмет верх ИИ и решит, что люди не нужны – в общем, очень много страшилок. Вот лично вы боитесь искусственного интеллекта? Есть что-то, что вас настораживает?
Герман Греф: Большое спасибо за вопрос. Коллеги, я приготовил маленькую презентацию, чтобы рассказать, чего мы боимся, чего не боимся, и чем сейчас занимаемся. Мы много говорим про Четвертую промышленную революцию. О первых трех все знают, но сейчас мы стоим на пороге изменений, которые по важности соответствуют тем изменениям, которые были в момент зарождения жизни на Земле. Я думаю, что и мы, сидящие на этой сцене, и вы, интересующиеся этой темой, подсознательно по этой причине и приходите на общение такого рода – не хочу называть это просто лекцией, потому что это общение. Вы чувствуете, что за этим есть нечто, чего мы не можем до конца понять, осознать, из-за чего у нас возникает страх. Страх – хорошее чувство. Кого-то он заставляет останавливаться, но ученых и исследователей он заставляет двигаться вперед, чтобы понять, что за ним стоит. Когда мы говорим о Четвертой промышленной революции, мы говорим о стыке технологий. Каждая из них – предмет нашего интереса и инвестиций. Мы инвестируем не только в них, общий годовой объем наших инвестиций в НИОКР составляет два с половиной миллиарда долларов. В России Сбербанк – самый крупный инвестор в науку, исследования и прикладные разработки. Мы видим, что мир категорически изменился. Поменялись не только сами технологии: они, в свою очередь, сделали то, чего очень боится бизнес – поменяли бизнес-модели. Я помню свой разговор с президентом компании Volkswagen сразу после того, как появился Uber. Он сказал: “Мы не боимся ни самодвижущихся машин, ни Tesla, мы тут же произведем свои электромобили, лучше Tesla, как только на них будет спрос. Мы боимся новых бизнес-моделей, которых не понимаем, боимся Uber. Мы – инженеры, у нас инженерные мозги, мы можем делать лучшее железо, но такую бизнес-модель мы не понимаем. Поэтому мы решили на всякий случай купить несколько компаний, которые занимаются такси”. Предпринимателей не страшит то, с чем они уже сталкивались, и те вызовы, на которые они научились отвечать, но те, к которым они не готовы, заставляют их терять сон. Это очень большая проблема и вызов для всех старых компаний. Мы видим, какие драматические изменения произошли в Интернете за пять лет. Мы видим, как резко изменились предпочтения наших клиентов. Сегодня невозможно представить, как мы жили до 2007 года, без тех девайсов, которые теперь у нас всегда в руках. Помню, как я тогда общался с компанией Nokia. Они все время говорили: наш кнопочный телефон доступен всем, а эта штука стоит безумных денег, сколько миллионов человек в мире его купит? Никто не говорил о сотнях миллионов или миллиардах.
Мы видим будущее искусственного интеллекта. Обычно мы с вами говорим о том искусственном интеллекте, который расположен слева на слайде [Artificial Narrow Intelligence], но сейчас все больше разговоров идет о среднем – AGI. С некоторыми из тех, кто здесь сидят – я вижу, например, Максима Еременко – мы несколько раз пытались затеять дискуссию по поводу AGI во время конференции AI Journey, которая проходит осенью каждого года. Но ни один уважающий себя ученый на нее не приходил: нам говорили, что обсуждения AGI – и самих обсуждающих – никто не будет воспринимать всерьез. Эта тема считалась подходящей для журналистов и писателей, но не для людей серьезных. В этом году произошел слом, и тема стала топом. Мы организовали целую секцию на AI Journey, где ведущие специалисты вели обсуждение AGI. Даже появился отдельный Институт AGI, который исследует исключительно его. Это новый виток в развитии искусственного интеллекта.
Пока мы, конечно, даже не здесь [AGI], и все могут спать спокойно. Искусственный интеллект является технологией исключительно прикладной, в отличие от многих других. С одной стороны, там еще есть куда “гулять”, хотя многие говорят о “зиме” искусственного интеллекта: алгоритмы перестают давать экспоненциальный рост, нужен принципиально новый подход. С другой стороны, мы видим, что технология абсолютно не исчерпала себя в прикладных применениях. У нас в Сбербанке нет ни одного продукта, который бы не использовал ИИ, но это не предел. Мы долго определяли для себя концепцию “AI First”. Когда два года назад президент Google объявил, что его компания уходит от концепции “Mobile First” и переходит к “AI First”, мы решили, что ИИ будет не только в каждом нашем продукте, но и в каждом процессе.
На одном из форумов в Давосе я задавал участникам вопрос: “Чем для вас является искусственный интеллект?” Самый гениальный ответ был у Майкла Делла, основателя и президента Dell Technologies; он сейчас владеет множеством компаний, включая VMWare – на софте этой компании работает большая часть всех облачных сервисов. Он сказал фразу, которая меня потрясла своей простотой: “Это самодвижущийся Lean”. Уточню для тех, кто не знает, что это такое. Есть такая великая компания – Toyota, и она подарила миру… не автомобили, а Toyota Production System. Потрясающий инструмент. Хотя его придумали американцы, реализовали его японцы, и американцы в 70-е годы проиграли конкуренцию динамично развивающейся Японии. Они тогда не могли понять, что происходит. Скопировали все японские глупости макроуровня – институты развития и так далее; не помогало. Секрет японского чуда открылся только после того, как профессор Гарвардского университета с группой ученых поехал на предприятия Японии и провел там год. Японцы создали тот самый принцип Lean technologies, который зиждется на “кайдзэнах” – технологии ежедневных маленьких улучшений. Так вот: искусственный интеллект – это две сетки. Одна крутит процесс, другая его анализирует и оптимизирует. Максим бы на моем месте рассказал про Reinforcement Learning и другие вещи, но это действительно так. Это потрясающе просто. ИИ в каждом процессе – это радикальное изменение всего мира и всей производительности труда. Он способен сам управлять процессом, обучаться и совершенствовать его. Это потрясающе.
Куда, по каким веткам искусственный интеллект будет развиваться дальше? Я уже говорил, что фундамент для всех дальнейших попыток – это вещи, связанные с осознанием универсального искусственного интеллекта, AGI. Это невероятно тяжелая задача, и она требует новых подходов во всем, начиная от чипов – потому что в традиционной архитектуре это невозможно – и заканчивая всем остальным железом и алгоритмами. Сегодня просматривается если не окончательное решение, то подход к следующему шагу. Это завораживает ученых, инженеров, всех нас. Это не страх, это интерес. Сегодня на первый план повестки дня выходят вопросы этики применения искусственного интеллекта. Сюда относится справедливость принятия решений искусственным интеллектом: “black box” никого не устраивает, поэтому сегодня инженеры, в том числе наши, работают над моделями, позволяющими интерпретировать принятие решений ИИ. Этим занимается отдельное, огромное направление. Конечно, если мы доверяем ИИ принятие важных решений, должна существовать транспарентность процесса принятия решения – это критически важно для людей. На тему создания надежных механизмов человеческого контроля над ИИ создаются целые альянсы. Этот вопрос не стоит в повестке дня сегодня, но он будет стоять послезавтра – поэтому им нужно начинать заниматься сегодня.
Конечно, дигитализация и использование ИИ привели к появлению принципиально нового бизнес-ландшафта. Он выбросил вперед компании, основанные на знаниях и человеческом интеллекте. Как правило, у них нет больших, серьезных наследий. Если говорить о компании, которую представляю я – которую, можно сказать, представляем все мы вместе, потому что мы вместе работаем и вместе занимаемся этими прекрасными машинами – то надо упомянуть ключевое слово, с которым боролась наша команда с 07 года. Очереди. В наших отделениях творилась жуть.На первом этапе мы вложились в преобразование технологий внутри Сбербанка. Для начала мы переработали всю операционку. Раньше операциями в бэк-офисе занимались порядка шестидесяти тысяч человек. За двенадцать лет объем операций Сбербанка вырос в двадцать раз, и теперь весь наш бэк-офис – это пять тысяч человек. Пятьдесят пять тысяч мы вывели из бэк-офиса вперед. Все те люди, которые стали клиентскими менеджерами, которые вас сегодня встречают и обслуживают во фронт-офисе, раньше не создавали стоимости. Эта трансформация стала возможна благодаря помощи машин и искусственного интеллекта. Сегодня у нас девяносто пять миллионов клиентов-физических лиц, мы – банк номер один в Восточной Европе и номер два во всей Европе, а по рентабельности – номер один во всем мире. Наш успех стал возможен благодаря раннему внедрению технологий искусственного интеллекта.
ОУ: Искусственный интеллект – вещь предельно практичная. Если использовать пример с вождением, ИИ действительно нужен не тогда, когда солнышко светит и вы едете по чистому асфальту, а когда все плохо.Нам нужен искусственный интеллект, который водит машину не как человек, а лучше человека, который лучше принимает решения. На экране сейчас демонстрируются реальные истории, которые нам прислали наши клиенты – автомобильные концерны. Они просили нас отработать систему C-Pilot на этих смертельных случаях, чтобы показать, с какой вероятностью мы исключаем катастрофу. Сейчас мы говорим про контроль ситуации, про креативность, про то, что мы можем сделать в этой зоне – причем не в будущем, а сейчас. Буквально в последние несколько лет появилось несколько интересных способов. В 2018 году Cognitive презентовал в США технологию Low-Level Data Fusion, которая совмещала четыре интересных технологии с целью преодолеть планку человека-эксперта. Это были нейронные сети глубокого обучения конволюционного типа, спайковые нейронные сети (это практически модель биологической нейронной сети), сенсоры нового типа – четырехмерные Imaging Radar, и объединение всего этого на низком уровне. Этот подход привел нас не только к новым клиентам, но и к интересному знакомству.
Есть такой интересный ученый – Кеннет Стэнли. Очень рекомендую его работы. Он возглавлял команду, которая создала систему, победившую чемпиона мира по го, сейчас работает одним из ведущих руководителей проекта UberAI и преподает во Флоридском университете. Он связался с нами по поводу технологии Low-Level Data Fusion и спросил: ребята, откуда вы это знаете? Мы ответили, что это наше изобретение, наш патент. Он рассказал нам свою историю. Как-то раз в 2007 году он игрался с программой PicBreeder – интересная штука, она имитирует работу нейронной сети, выдавая следующий “слой” нейронной сети по выбранному изображению. Стэнли нашел картинку с мордочкой инопланетянина и начал “ходить” по слоям – в конце концов, глаза мордочки опустились и вышло что-то вроде гоночной машины. И тогда он понял: если убрать целеопределенность – так же, как это происходит в природе – то можно “спрямить углы” по принципу эволюции. Если дать нейронной сети возможность проводить бесконечно долгий перебор, то можно из чего-то совершенно другого получить прорывное открытие. Отчасти эта теория легла в основу производства “мозгов” для беспилотных комбайнов и поездов. Она помогла нам “спрямлять углы” на существующих технических средствах и дала четкое основание того, как всем нам нужно учиться. Я сейчас имею в виду не только студентов. Герман Оскарович говорит, что не знает слова “работать”, но он точно знает слово “учиться”. Бесконечно учится человек. Это – единственная форма оптимального существования и прокачки себя. Необязательно ставить себе цель выучить, как работает конкретная вещь. Бесцельный, казалось бы, поиск, постоянная загрузка нейронной сети некоторым ходом информации в освобожденном виде может привести к оригинальному и интересному результату.
Скажите пожалуйста, кто-нибудь из вас знает работы Владимира Бехтерева? Известный, в каком-то смысле непревзойденный психиатр и нейрофизиолог. Он серьезно исследовал тему коллективного мышления, коллективного мозга, коллективной нервной системы. Прошло больше ста лет, и Сбербанк вывел на новый уровень работы Бехтерева, связанные с созданием коллективного мозга. Мы не зря назвал нашу лекцию “Нейроэволюция”. В реальной жизни мы, чтобы выжить, поднять свой уровень жизни, жить интереснее, можем объединяться в своего роды нейронные сети. В той экосистеме, которую создал Сбербанк, мы стали одним из звеньев коллективного разума, и усилили свои возможности в 10-15 раз. Все вы, сидящие в зале и слушающие нас, уже образуете коллективный мозг, между вами уже есть связь. Эта связь формируется по-разному. Например, Сергей Шнуров работает простыми нейронными способами: когда он кричит слово “ЖОПА”, весь зал тоже кричит это слово. У вас возникает точка связи, хотя после концерта и остается лишь локальное нервное возбуждение. А сейчас, когда Греф показывает вам функционирующую систему, когда мы показываем куски новых технологий и говорим с вами о том, как мы хотим существовать дальше, возникают связи совершенно другого типа. Важно, что наша связь возникает в оффлайне. В онлайн-сетях таких биологических и энергетических связей не возникает, поэтому мы должны собираться вместе. В оффлайне совершенно иной эффект.
СШ: Люди интересуются: чем будут заниматься те, кто потеряет работу из-за активного внедрения алгоритмов? У всех есть ощущение, что, если ИИ и роботы будут делать всё лучше, круче, четче, чем мы, то те люди, которые не стремятся быть визионерами, потеряют работу. Это так или не так?
ОУ: Я спрошу у зала: кто мечтает, чтобы его ребенок пошел работать таксистом? Или инкассатором, например? Или в шахте? Я просто хочу повторить одну важную вещь, которую сказал Герман: слово “работать” возникло от слова “раб”. В истории нашей цивилизации всегда был необходимый набор тяжелой работы, которую кто-то должен был делать. Вся история развития технологий состояла из поиска способов спихнуть эту деятельность на кого-то еще. На рабов, пленных, еще кого-нибудь. Сейчас мы можем спихнуть её на ИИ – давайте попробуем?
ГГ: К ответу Ольги я хочу сделать дополнение на тему обучения. Мы три года инвестируем в создание образовательной платформы для средних школ. Вот скажите, какие у вас ассоциации со школой? У меня вот первое – “К доске пойдет…” – и по порядку фамилии. Потом – экзамены, ночью учить материалы, которые в быструю память тут же вылетают. И домашние задания. Роль родителя нашего поколения – это такой палач над ребенком, главная фраза – “Уроки сделал?” С этого начинается унижение ребенка, манипулирование. Мы поставили себе задачу – изменить процесс обучения. Учиться надо, конечно, но не так, как учились мы (и здесь присутствующие, кстати, тоже). Мы говорим: мир изменился. Каждый ребенок должен учиться по своей траектории. Обучение можно сделать увлекательным процессом. Ведь дети как-то высиживают за играми по двенадцать часов, и с концентрацией внимания у них в это время все в порядке. Мы можем сделать процесс обучения таким же увлекательным, чтобы ребенок из школы уходить не хотел. Это то же самое, о чем сказала Ольга: у нас есть, чем заниматься. С изобретением экскаватора перестали быть нужны сотни землекопов. Не надо измываться над детьми, и над людьми в принципе, не надо заставлять делать однообразную работу. Наши мозги достойны лучшего.
СШ: То есть, надо с ранних лет идти в том направлении, в котором ребенок хочет развиваться, и тогда будет все хорошо. И не бояться, что роботы отнимут у нас работу.
ОУ: Надо формировать мотивацию. Ребенок сам не знает, в каком направлении идти. Герман Оскарович несколько раз упоминал слово “мотивация”, и с ним связана сложная история отношений родителей и детей, учителей и учеников. Сейчас ни один учитель не может дать столько информации, сколько есть в Интернете. Учитель должен быть наставником, формировать мотивацию к получению знаний. Человек должен захотеть знать.
СШ: Один из самых часто задаваемых вопросов – о базовом доходе. Он может решить материальный вопрос, но что делать человеку с кучей свободного времени? То есть, мы будем обучать ИИ так, чтобы он помогал нам и высвобождал время людей, но ведь человек привык постоянно быть в движении, физически и метафизически.
ОУ: Насколько освобожденный человек прокачан, чтобы у него сформировалась мотивация к выживанию? Речь идет не о проживании, а о выживании. Человек сам решает, как жить. Уйдет ли он в “мясо”, или прокачает себя так, что станет производить интересную функцию, продолжит свой рост? С такой проблемой свободы воли столкнется большая часть человечества.
СШ: То есть, ответственности будет еще больше, чем раньше?
ГГ: Иногда мы заочно полемизируем с Татьяной Владимировной Черниговской. Она говорит: люди все освобожденное время потратят, чтобы пить-гулять-веселиться. А я говорю: не надо так плохо думать о человечестве. Когда мы придем к освобождению большей части времени, у нас все равно останется всего 24 часа в сутки, из которых 8 надо спать – где тут куча времени? Мы сейчас не можем представить, сколько существует вариантов использования этого времени для саморазвития. Саморазвитие – это и есть счастье. Это постоянный процесс. Если человек останавливается в развитии, он не может быть счастлив. Дофамин придется ловить вслед за развитием. Нужно высвобождать время человека от непродуктивных занятий, нужно дать ему время почувствовать себя счастливым в процессе занятия любимым делом.