Как развивались технологии искусственного интеллекта с середины 20-го века и до наших дней? Что такое машинное обучение, как оно позволяет заменить эксперта и в каких областях используется? Что собой представляют глубокие нейронные сети и почему они обретают всё большую популярность? Каковы перспективные направления развития искусственного интеллекта и для чего вообще его стоит развивать?
Про искусственный интеллект рассказывает Константин Воронцов, доктор физико-математических наук, профессор РАН, заведующий кафедрой математических методов прогнозирования факультета вычислительной математики и кибернетики МГУ.

Друзья, если вам нравится то, что мы делаем, и вы хотите увидеть больше новых материалов, будем благодарны вашей поддержке! 😊
на Sponsr: https://sponsr.ru/naukapro
на Boosty: https://boosty.to/naukapro
в ВК: https://vk.com/donut/nauka_pro_rnd
Карта Сбербанка №2202 2036 9290 2523 с пометкой «НаукаPRO»
ЮMoney (ЯндексДеньги): money.yandex.ru/to/4100117089795259

Подписывайтесь на наши страницы на других ресурсах! 🤘🏻
https://vk.com/nauka_pro_rnd
https://dzen.ru/naukapro
https://ok.ru/naukapro
https://rutube.ru/u/naukapro
https://t.me/naukaproo

#НаукаPRO #искусственныйинтеллект #нейросети

Есть такая картинка, которая в интернете в самых разных вариантах существует, ее легко найти.

Она иллюстрирует ключевые этапы в развитии искусственного интеллекта.

На ней можно позалипать немножко, рассказать кучу разных интересных историй, ну и порассуждать на тему того, куда же мы все вместе движемся с этим искусственным интеллектом.

Само выражение искусственный интеллект появилось в середине 50-х годов, и там сразу возникло несколько направлений, и в основном они на первых порах сосредоточились на том, чтобы автоматизировать принятие решений в разных предметных областях.

И это направление получило название экспертных систем.

Это про то, каким образом формализовать знания эксперта, и тут неспроста нарисована игра в шашки.

Артур Сэмюэл — это один из первых ученых, которые создавали программу для компьютерной игры в шашки, чтобы компьютер играл не хуже гроссмейстера.

Такие программы были со временем созданы и для шахмат.

На первых порах действительно выявление правил, по которым играют опытные игроки, их закладывание в компьютер, правильное закладывание в компьютер, породило такие направления, как представление знаний, появились разные парадигмы, способы представления знаний в компьютере, это правила, системы продукции, фреймы и так далее, огромное количество всяких разных методов.

Но потом выяснилось, что, во-первых, у них есть порог сложности, и эти правила, если вы их выудили из экспертов и записали аккуратно, запрограммировали, их уже стало несколько сотен, то оказалось, что они начинают входить друг с другом в настолько нетривиальные взаимодействия, что уже трудно отследить какие-то ошибки в этих взаимодействиях.

И в целом система работает не очень надёжно.

Появилась другая идея.

А давайте не будем прибегать к помощи экспертов.

Давайте посмотрим на те данные, по которым эксперты учатся решать те или иные сложные прикладные задачи.

И настала эпоха машинного обучения.

Собственно, слова машинное обучение возникли примерно тогда же, тоже в середине 50-х годов, и некоторое время эти направления развивались параллельно друг с другом, и были примерно так сопоставимы по количеству исследований проводимых, но в какой-то момент просто признали, что машинное обучение является таким более общим, более мощным способом, потому что оно автоматизирует эксперта.

То есть не надо больше интервьюировать эксперта, вытягивать из него его экспертные знания.

Кстати, не всегда эксперты легко идут на такое интервью.

Не всегда можно легко у эксперта предметной области, например, у медика, выяснить, каким же образом он ставит диагнозы, каким образом он назначает лечение.

У него в голове огромное количество медицинских знаний, он смотрит на конкретного человека, пациента, и каким-то образом у него там происходит вот это вот принятие решений.

И он не всегда может это вербализовать, этот процесс, не всегда.

Даже сев рядом с так называемым инженером по знаниям, вот два специалиста, один, допустим, медик или геолог, или психолог, или социолог, специалист самых разных профессий, а вот инженер знаний, он занимается тем, что он формализует знания экспертов в виде компьютерной программы.

Оказалось, что это очень непростой этап формализации.

Машинное обучение исключает из этого процесса эксперта.

Вот у нас есть данные, какие-то объекты и какое-то решение, которое признано верным на этих объектах.

Это обучающая выборка.

По этим данным мы строим предсказательную модель, которая полностью автоматизирует этап принятия решения.

И вот поэтому на этой картинке в качестве такого символа этого подхода, это задача распознавания спама.

Вот объект в данном случае – это письмо.

Письмо характеризуется какими-то признаками.

Это могут быть слова, это может быть адрес, с которого письмо отправлено.

Могут быть еще какие-то характеристики, время отправления и так далее.

Много по отдельности неточных и нечетких признаков, которые вместе используются в модели, вот они в состоянии предсказать с очень высокой вероятностью является ли письмо спамом или нет.

Мы на самом деле все с вами пользуемся электронной почтой и даже не замечаем, что уже почтовые сервера уже давно ограждают нас от этого потока спама.

Если, например, еще лет 15 назад весь спам валился пользователю, то сейчас уже ничего подобного.

И на уровне серверов многие спамерские сообщения очень надежно даже не доходят до пользователя.

Хорошо, машинное обучение достаточно универсально, оно проникло во все, практически без исключения, сферы человеческой деятельности, кредитный скоринг и огромное количество в банковско-финансовой сфере есть приложений в медицине, в поиске полезных ископаемых, в производствах, контроль качества, много-много чего.

И постепенно, вот следующий этап, это десятые годы, мы перешли к принципиально новым моделям.

Ну, собственно, они не совсем принципиально новые, это всё было давно известно, и нейронные сети, и глубокие нейронные сети, и даже успешные сверточные нейронные сети, которые в 2012 году стали выигрывать в конкурсе по распознаванию объектов на изображениях.

Это ImageNet, Огромный конкурс с большими данными, 14 миллионов размеченных изображений.

Почему здесь котик изображен?

Этот котик на самом деле напоминает нам о другом конкурсе, который организовал Google.

Это конкурс по распознаванию в роликах Ютуба видеокадров с котами.

Это такая прикольная задачка, безобидная.

Академическое сообщество с большим удовольствием ринулось соревноваться в точности решения этой задачи.

Но на самом деле все мы понимаем, что когда в наших руках технология, умеющая распознавать определенного вида объекта на изображениях, неважно, что это за объекты.

Это могут быть лица людей, это могут быть шрифты, иероглифы и так далее, это могут быть образцы военной техники.

Приложений огромное количество.

И здесь прорыв произошел, когда стало понятно, что можно автоматизировать этап векторизации данных.

Что такое векторизация?

Это придумывание признаков.

Признаков, когда много, они записаны в набор данных, он называется вектором, вот это векторное представление объекта.

И если раньше на этапе машинного обучения вот здесь в признаке придумывали большие команды инженеров, вот сидели инженеры и придумывали, чем спамерское письмо отличается от обычного письма, или чем хороший заёмщик отличается от плохого заёмщика, Или как по данным с кернов пробуренных предсказать будет ли то или иное полезное ископаемое в данном регионе?

Действительно предметные знания использовались на этом этапе очень существенно.

Но по-другому шла работа с экспертом.

Не как в экспертных системах, не как на первом этапе развития технологий искусственного интеллекта, а вот эксперты теперь придумывают признаки.

Но с приходом глубоких нейронных сетей, сначала в компьютерное зрение, когда шла обработка изображений, постепенно эти методы приспособили для распознавания речи, для анализа текстов, для обработки каких-то сложно устроенных транзакционных данных.

И оказалось, что мы теперь умеем автоматизировать вот этот этап изобретения признаков.

Теперь не нужны большие отделы инженеров, которые сидят и придумывают формулы для признаков, а можно использовать нейросетевые архитектуры, которые универсальным образом делают нам векторизацию сложноструктурированных объектов.

И вот эта вот диаграммка, она же показывает, что сначала машинное обучение начало вытеснять другие методы искусственного интеллекта.

Нет, это не означает, что мы забыли системы, основанные на правилах или экспертные системы, они просто нашли свои ниши.

Дальше глубокое обучение стало вытеснять другие методы машинного обучения.

Нет, это не означает, что все эти тысячи методов, ведь этот богатый арсенал наработанных методов за примерно полвека, это не означает, что мы от него отказываемся.

Они по-прежнему работают в определенных задачах, но они становятся нишевыми.

Все больше задач решаются с помощью глубокого обучения.

Теперь возникает вопрос, а нет ли в недрах глубокого обучения каких-то новых моделей, которые претендуют на ещё большую универсальность, то есть на то, что они будут решать те задачи обработки сложно структурированных данных, которые вот сейчас разнообразные глубокие нейросетевые архитектуры решают.

И да, такой претендент есть.

Это так называемые модели внимания и архитектуры трансформеров, которые сначала возникли в задачах машинного перевода, потом их приспособили к другим задачам обработки текстов естественного языка, потом научились с помощью моделей внимания решать задачи на картинках, например, аннотации изображений, как по изображению сгенерировать текст на естественном языке, о чем это изображение.

Вот такие задачи уже вполне успешно решаются где-то примерно с 17-18 года, все более успешно.

И вот эти вот модели, модели внимания.

Что значит модель внимания?

На какие слова входного языка надо посмотреть более внимательно, чтобы сделать перевод очередного слова?

Или на какие фрагменты данного изображения надо посмотреть более внимательно для того, чтобы сгенерировать очередное слово в аннотации.

И постепенно вот эти вот модели трансформера, а о чем эта модель, если на пальцах по существу?

Допустим, да, мы научились строить векторные представления слов, которые отражают его смыслы.

Но смысл этого слова, и это знает любой лингвист, зависит от того, в каком контексте оно употреблено.

Контекст немножечко влияет, искажает, смещает смысл слова.

Оно может в словаре иметь много смыслов, Но в контексте его смысл всегда более узкий.

Это означает, что мы слово в контексте должны представлять каким-то другим вектором, чуть более зауженным.

Точно то же самое и картинка.

То есть да, мы научились картинке или отдельные объекты на изображениях представлять вектором, но если это картинка в каком-то контексте, то этот вектор надо как-то модифицировать.

И именно этим и занимаются модели внимания.

Потом оказалось, что они довольно успешны в распознавании речи, в распознавании сложноструктурированных данных.

И сейчас исследователи, которые занимаются этими моделями, склоняются к тому, что возможно именно трансформеры, вот эти архитектуры на моделях внимания постепенно вытеснят некоторые, а может быть даже и все другие нейросетевые архитектуры.

Об этом говорить еще рано, поживем увидим.

Но по крайней мере уж точно с чем нам придется жить в ближайшие годы в развитии искусственного интеллекта, это с моделями векторизации данных.

То есть погружение любых объектов, сколь угодно сложных, в некие единые универсальные векторные пространства, где вектор отражает смысл объекта, а объектом может быть что угодно, это и текст, и картинка, и какой-то сигнал, и какой-то трехмерный объект, и какой-то цифровой слепок, цифровой двойник какого-то объекта реального мира, вот они оказываются все погруженными в единое векторное пространство.

Сейчас такие модели называют foundation models.

Ну, может быть, они станут вот такими вот новыми универсальными инструментами, которые постепенно вытеснят с собой все остальные глубокие нервы, сетевые архитектуры.

Может быть, появится что-то ещё, поживём – увидим.

А зачем развивать искусственный интеллект?

Для чего вообще мы развиваем технологии искусственного интеллекта.

Это принципиальный вопрос, и он чисто наш, человеческий, он лежит за пределами технологий.

Мы должны сами определиться.

Я считаю, что в первую очередь мы занимаемся автоматизацией рутинной деятельности человека.

Рутинная в смысле – это тяжелый физический труд, может быть, это интеллектуальный труд, но вот он рутинный.

И есть ли такая задача вообще полностью заменить человека?

Вот я считаю, что такой задачи не стоит.

Более того, ставить её вредно и неправильно, потому что мы всё-таки создаём нашу человеческую цивилизацию, у нас есть своя система ценностей, и в этой системе ценностей вообще говоря выживание – это ценность номер один, Нас, как биологического вида.

Поэтому неправильно создавать машины, которые обладают всеми теми же когнитивными способностями, что и мы, да ещё и ориентируются в трёхмерном пространстве и в человеческом социуме, так же, как и мы.

А ещё и воспроизводят сами себя, например.

То есть, вот об этом нас предупреждают фантасты во многих фильмах и строят вот эти образы будущего.

А что произойдёт, если это так случится?

И образы почему-то неизменно оказываются апокалиптическими.

Всё заканчивается очень плохо для нас.

Хотим ли мы в такое будущее, где бы всё будет плохо для нас?

А это вопрос к нам самим, он за пределами науки.

See all НаукаPRO transcripts on Youtube

Искусственный интеллект (ИИ): прошлое, настоящее и чего ожидать в будущем? – Константин Воронцов