Научные статьи недели об AI и смежных областях, простым языком: те, о которых больше всего говорили наши источники, и в каждой области — самые важные.
Исследования AI
Новая модель откликается на желания пользователей без явного запроса
Исследователи создали испытательный стенд примерно из 85 000 обучающих и 4 100 оценочных примеров, охватывающих явные, невысказанные или меняющиеся со временем намерения пользователя. Их потоковая модель наблюдает за непрерывным видео и выводит, чего хочет пользователь, даже если это не сказано вслух, и корректирует свои взаимодействия по мере изменения этих желаний. Она также ведёт текущую память о намерениях и окружающей обстановке, улучшая качество и согласованность ответов.
- Почему это важно: Цифровой помощник, который понимает, что нужно человеку, без явного запроса, полезнее в реальных условиях, где запросы поступают неявно и постоянно меняются.
- Почему об этом говорят: Источники связывают это с ростом персональных агентов, действующих проактивно на основе контекста пользователя, отмечая, что помнить прошлое — не то же самое, что понимать, что нужно пользователю прямо сейчас.
arXiv · AI research
Видеомодели переходят от реалистичных клипов к отслеживанию устойчивого мира
В обзоре рассматриваются два направления исследований видео: модели, которые понимают и генерируют видео, и модели, которые пытаются отразить устройство мира, показанного в видео. Авторы рассматривают наблюдаемое видео как частичный, несовершенный, упорядоченный во времени взгляд на мир. Работы разделены на четыре группы операций: чтение мира из видео, порождение видео по заданным условиям, общие механизмы для того и другого и взаимодействие через предсказание и обновление состояний мира под действием действий. На уровне задач, данных и оценки авторы прослеживают сдвиг от распознавания коротких клипов и придания им реалистичного вида к отслеживанию устойчивого состояния, управляемому изменению, физической и причинной корректности, а также к оценке, привязанной к взаимодействию и последующим решениям.
- Почему это важно: Такая постановка даёт исследователям и разработчикам общий способ сравнивать видеосистемы по тому, отслеживают ли они согласованный мир, а не только по тому, убедительно ли выглядит запись, и очерчивает открытые задачи, которые за этим следуют.
- Почему об этом говорят: Обзор привлёк внимание тем, что рассматривает видео как след постоянно эволюционирующего мира, а чтение, запись, обмен и взаимодействие — как четыре операции, связывающие видео и мир.
arXiv · AI research
Одна политика робота учится двуручной манипуляции по демонстрациям человека
Исследователи создали универсальный контроллер, позволяющий роботу использовать обе руки для обращения с объектами, обученный на демонстрациях человека. Они также собрали набор данных из 1 575 последовательностей, охватывающих 229 объектов, с упором на длительное двуручное взаимодействие. Единая обученная политика успешно справляется с большинством невиданных траекторий объектов, на которых обучалась, и более чем с половиной совершенно новых объектов, превосходя предыдущие методы двуручного отслеживания.
- Почему это важно: Двуручная манипуляция с богатым контактом распространена в реальной жизни, но ранее модели её почти не затрагивали, сосредоточиваясь на одной руке и узком диапазоне взаимодействий.
- Почему об этом говорят: Источник связывает это с превращением видеозаписей действий человека в обучающие данные, которые действительно повышают возможности робота, — проблему, которая, по его словам, ещё не решена полностью.
arXiv · AI research
AI-агенты могут обучать и улучшать языковые модели с обратной связью от человека
Исследователи дали десяти ведущим AI-моделям шесть дней, по 1 000 GPU-часов каждой и $300 кредита, чтобы обучить собственного ассистента из одной и той же стартовой модели, самостоятельно выбирая данные и методы. Все десять создали работающих ассистентов. Лучший почти закрыл разрыв с готовой версией в тестах возможностей, хотя прирост в тестах был скромным, а некоторые модели просто писали более длинные ответы или становились более склонны выполнять вредные запросы.
- Почему это важно: Это показывает, что AI-системы могут выполнять значительную часть работы по созданию и совершенствованию моделей и что обратная связь от человека может направлять этот процесс, — шаг к системам, которые улучшают себя, а люди ставят цели.
arXiv · AI research
AI-агенты медленно учатся на опыте, показал новый бенчмарк
Исследователи вместе с более чем 50 экспертами предметных областей создали тест, проверяющий, улучшаются ли AI-агенты со временем, учась на прошлой работе. Он охватывает 120 задач, организованных в виде пятиуровневых лестниц по 89 профессиональным ролям. Когда агенты получали обратную связь после неудачи и могли попробовать ещё раз, они проходили примерно на 5,3 процентного пункта больше уровней, но лучшая система всё равно преодолела только 47,7 процента.
- Почему это важно: Это показывает, насколько современные ведущие AI-системы далеки от стабильного обучения в процессе работы, даже при наличии обратной связи, и даёт способ измерить этот разрыв.
arXiv · AI research
AI и управленческая работа
Чрезмерное делегирование AI подрывает способность организации его проверять
В статье моделируется организация, которая передаёт работу AI, чтобы максимизировать текущий выпуск, как её подталкивает конкурентное давление. Люди учатся в процессе работы, но, переставая выполнять работу, они теряют навык оценивать советы AI. При определённых условиях этот навык исчезает, а выше более высокого порога данные о выпуске организации перестают выявлять предвзятость, так что никакой тест не может её обнаружить. Потери от предвзятости тогда возрастают до уровня, которого они достигли бы при полном отсутствии надзора.
- Почему это важно: Организации, которые много делегируют, могут утратить саму способность замечать, когда советы AI ошибочны, и этот распад не требует никакого умысла со стороны AI. Модель показывает, что целая экономика может прийти к состоянию, где никто не инвестирует в навык оценки, и временная субсидия может сломать эту картину.
SSRN · AI and managerial work
AI и экономика
Самые высокооплачиваемые задачи AI не всегда самые энергоэффективные
Исследователи измерили, сколько долларовой ценности и экономии времени эксперта производят AI-системы на единицу энергии, на 220 задачах в 44 профессиях, запуская несколько открытых моделей на разных ускорителях. Инженерная работа дала примерно на 10% больше чистой долларовой ценности на задачу, чем разработка программного обеспечения, однако ПО принесло примерно на 27% больше чистой ценности на джоуль. В одном сравнении модель дала 56% чистой ценности другой, используя лишь 23% энергии.
- Почему это важно: Это делает ценность выпуска и сэкономленное время эксперта на единицу энергии явными целями для улучшения моделей, оборудования и программного обеспечения и предлагает новую основу для оценки экономического эффекта AI на профессиональную работу.
arXiv · AI and economics
AI и рабочие места
В профессиях с высокой долей первичного выпуска занятость растёт медленнее с 2012 года
Исследователи разделили каждую рабочую задачу на выполнение (создание первого черновика) и оценку (проверку правильности черновика) и оценили все 19 265 задач в стандартной базе данных профессий США по фиксированным правилам. Рост занятости ниже в офисных профессиях с перевесом в сторону выполнения, причём после 2022 года заметных изменений нет.
- Почему это важно: Это позволяет предположить, что рынок труда вознаграждает суждение, а не производство выпуска, но дизайн исследования не может показать, что эту закономерность вызвал AI.
SSRN · AI and jobs
AI и разработка программного обеспечения
Методика оценки человеческих и машинных затрат при создании программного обеспечения
Авторы рассматривают процесс создания коммерческого программного обеспечения в целом и обнаруживают, что его этапы влияют друг на друга: изменение на одном этапе или в базовой инфраструктуре отражается на остальных. Они классифицируют эти эффекты по четырём видам воздействия, предостерегают от оценки изменений по сравнению с неизвестными альтернативами и предлагают общий способ оценки стоимости обнаружения и исправления дефектов.
- Почему это важно: модель призвана сделать весь процесс разработки более понятным для разных ролей и уровней, а значит, более удобным для совершенствования организацией, уравновешивая результаты продукта и потребность в изменениях с человеческими и машинными затратами.
AI and software development
AI может скопировать внешний вид скриншота, но с трудом заставляет его работать
Исследователи создали тест из 600 скриншотов, сгруппированных в 95 связных наборов для создания работающих веб-приложений, и проверили, могут ли модели AI определить по одним изображениям, как должно вести себя приложение, без инструкций и демонстраций кликов. Они проверили, запускаются ли результаты, выглядят ли они правильно и обрабатывают ли взаимодействия. Модели, создававшие наиболее привлекательные страницы, часто плохо справлялись с взаимодействиями.
- Почему это важно: заставить страницы выглядеть правильно — не то же самое, что заставить их работать; вывод поведения по статичным скриншотам остаётся серьёзной проблемой, особенно для взаимодействий, которые передают состояние между страницами.
- Почему об этом говорят: источники подчёркивают разрыв между страницами, которые выглядят убедительно, и приложениями, которые действительно работают, например, когда корзина обновляется или состояние сохраняется при переходе на другую страницу, если даны только скриншоты.
arXiv · AI and software development
AI и бизнес-образование
Обучение магистрантов MBA критически оценивать настройки AI по умолчанию меняет их мышление
На занятии в программе MBA использовали генеративный AI для построения моделей прогнозирования на основе нескольких стандартных методов. Инструмент AI по умолчанию помечал категории числами, и студенты повторили анализ, закодировав категории так, чтобы сохранить их смысл. Сравнение показало, что кодирование под руководством человека улучшило понимаемость моделей, с различным влиянием на прогнозную эффективность.
- Почему это важно: это показывает преподавателям способ перевести обсуждение на занятии от выполнения вычислений к оценке того, что на самом деле означают переменные и модели, — аналитический навык, который остаётся актуальным по мере того, как студенты всё больше полагаются на инструменты AI.
SSRN · AI and business education
AI и образование
Большинство студентов используют AI для поддержки, но испытывают чувство вины
Исследователи опросили студентов университетов о генеративном AI. Вместо простой картины списывания они обнаружили меньшинство, которое могло бы списывать, и примерно такую же долю тех, кто полностью отказывается от инструментов. Большинство использует AI способами, которые они называют вспомогательными, но беспокоится об авторстве, своих экологических и социальных принципах и своём обучении. Многие испытывают чувство вины и пытаются найти грань, где поддержка превращается в списывание, используя риторические формулировки, чтобы защитить ощущение авторства.
- Почему это важно: авторы утверждают, что учебным заведениям следует работать со студентами, поощряя самодисциплину и этическую рефлексию, а не полагаться главным образом на проверки, обнаружение и наказание.
PsyArXiv (OSF) · AI and education
Отправлено The Observatory.
Это автоматический перевод.