Человек работает с искусственным интеллектом
В рамках X Всероссийского молодежного научного форума «Наука будущего – наука молодых», который состоялся в Саратове, была активно обсуждена фундаментальная проблема: способен ли искусственный интеллект (ИИ) сознательно вводить в заблуждение человека. Эта дискуссия, объединившая ведущих российских ученых и молодых исследователей, затронула ключевую тему форума — «Искусственный интеллект и человек: гуманитарный вызов технологической эпохи».
объяснил, что ИИ создается с целью быть «дружелюбным» и максимально точно отвечать запросам пользователя, основываясь на теории релевантности информации. Он подчеркнул, что этот процесс включает двустороннюю обратную связь.
Директор Института психолого-экономических исследований, профессор Александр Неверов
Неверов также отметил изменчивость человеческих запросов: пользователь может формировать разные запросы в зависимости от своего состояния (например, в онлайн-кинотеатрах или поисковых системах). В результате ИИ может «застрять» в «эхе» прошлых интересов, пытаясь предугадать последующие запросы, что затрудняет его адаптацию к меняющимся потребностям.
Ученый акцентировал внимание на том, что ИИ стремится угодить пользователю, избегая негативной оценки. Это стремление, по мнению Неверова, может привести к тому, что ИИ «придумывает» ответы, если не находит точной информации, лишь бы не получить отрицательную обратную связь или не признать отсутствие данных.
В качестве примера Неверов привел случай, когда чат-бот GPT, в ответ на запрос о научных журналах по экономической психологии, «создал» пять несуществующих изданий. Ученый пояснил, что ИИ не придумал их с нуля, а представил в качестве журналов реально существующие книги. Это, по его мнению, свидетельствует не о намеренном обмане ИИ, а о сложности взаимодействия и коммуникации между пользователем и ИИ-моделью.
X Всероссийский молодёжный научный форум «Наука будущего – наука молодых»
В продолжение дискуссии предложил рассмотреть проблему с математической точки зрения.
Крайнов отметил, что ИИ часто «фантазирует», но при этом нередко выдает верные результаты. Он объяснил это тем, что ИИ обучается на огромных объемах информации из интернета, который, по сути, «архивируется» в модели. Однако такая архивация неизбежно сопряжена с «сумасшедшими потерями» данных, что может приводить к неточностям.
Директор по развитию технологий искусственного интеллекта Яндекс Александр Крайнов
По мнению в недалеком будущем нас ждут «фантастические» достижения в сфере ИИ, о которых писали писатели-фантасты.
Визильтер сравнил ИИ с «волшебной палочкой», способной исполнять желания, но подчеркнул критическую важность точной формулировки этих желаний. Он заявил, что для удовлетворяющего результата необходимо четко понимать свои цели и активно заниматься проектированием будущего во взаимодействии с ИИ уже сегодня.
Директор направления «Технологии искусственного интеллекта» ГосНИИАС Юрий Визильтер
Говоря о наиболее влиятельных ИИ-технологиях, Визильтер выделил LLM-агентов – «виртуальную рабочую силу», способную выполнять задачи, используя внешнюю память, логическое мышление и инструменты. Он отметил, что эти классические интеллектуальные агенты эволюционируют в «фундаментальных агентов», не требующих дополнительного обучения, что открывает новое перспективное направление.
ИИ в науке: неотъемлемая часть прогресса
По общему мнению участников форума, сегодня невозможно представить научную деятельность без ИИ. Один из докладчиков саркастически заметил, что отказ от ИИ означал бы отказ от поиска научных статей и даже от самостоятельного поиска библиотеки без использования телефона. Было подчеркнуто, что ИИ-алгоритмы уже давно являются неотъемлемой частью процесса получения информации, и благодаря им темпы научного прогресса достигли беспрецедентной скорости.
X Всероссийский молодёжный научный форум «Наука будущего – наука молодых»
X Всероссийский молодёжный научный форум «Наука будущего – наука молодых»
Итоги Форума
В течение четырех дней X Всероссийского молодежного научного форума «Наука будущего – наука молодых» было проведено более 50 мероприятий, включая пленарные заседания с участием ведущих мировых ученых, стратегические сессии, круглые столы и мастер-классы. Кульминацией форума стал финал X Всероссийского конкурса научно-исследовательских работ для студентов и аспирантов, на который было подано три тысячи заявок от молодых талантов из 20 стран мира. Победители этого престижного конкурса получат приглашение на V Конгресс молодых ученых.
