Красные линии: эксперты обсудили вопросы этики и права в сфере ИИ
Быстрое развитие технологий искусственного интеллекта требует опережающего этико-гуманитарного осмысления вероятных результатов прогресса и сбалансированных регуляторных мер, стимулирующих применение ИИ и ограждающих человека от возможного негативного влияния. Об этом эксперты говорили на Форуме этики в сфере искусственного интеллекта «Поколение GPT. Красные линИИ», который прошел в ТАСС. В его работе приняли участие представители Вышки.
Директор Национального центра развития искусственного интеллекта при Правительстве РФ (действует на базе ВШЭ) Сергей Наквасин, открывая форум, подчеркнул остроту этических вопросов развития и применения искусственного интеллекта и большое внимание общества к моральным проблемам ИИ. «Форум в этом году приобрел всероссийский масштаб: три дня накануне шел марафон в 12 регионах страны. Более тысячи человек приняли участие в открытой, честной, горячей, острой дискуссии. Мы накапливаем и обрабатываем результаты всех этих обсуждений», — сказал он.
По словам Татьяны Матвеевой, начальника Управления по развитию информационно-коммуникационных технологий и инфраструктуры связи Администрации Президента РФ, наша общая задача — обеспечение надежности, безопасности технологий ИИ и доверия к ним. «Все предложения, которые будут высказаны на форуме, помогут ответить нам на основные вопросы, на вызовы, которые стоят перед нами, и будут способствовать повышению доверия общества к технологиям искусственного интеллекта, формированию подлинного технологического суверенитета нашей страны», — подчеркнула она.
Заместитель министра экономического развития РФ Максим Колесников обратил внимание, что в мире нет единого понимания регулирования ИИ: в Европе приняты жесткие меры, а США и Китай придерживаются более мягких рамок. Россия выступает за гибридный подход, где отдельные элементы ИИ будут контролироваться законодательно, но в основном он будет регулироваться Кодексом этики в сфере ИИ и принципами, разработанными в диалоге с технологическим сообществом. «Более 270 компаний и органов государственной власти уже согласились соблюдать установленные кодексом принципы. Ожидаем, что сегодня к ним присоединится еще порядка 20 организаций», — заявил Максим Колесников.
В ходе круглого стола «Межкультурный взгляд на глобальные вызовы развития искусственного интеллекта» руководитель Международного научно-образовательного центра «Кафедра ЮНЕСКО по авторскому праву, смежным, культурным и информационным правам» НИУ ВШЭ профессор Михаил Федотов отметил, что российский Кодекс этики в сфере ИИ близок к рекомендациям, разработанным ЮНЕСКО. «Это хорошо, значит, позиции совпадают и мировой опыт перенимается Россией», — сказал он. По его мнению, кодекс следует дополнить комиссией по нейроправу, «потому что искусственный интеллект связан и с нашим естественным интеллектом». Эта комиссия займется ментальной и физической неприкосновенностью человека при вероятном вживлении имплантов в мозг и его защитой от возможной когнитивной цензуры. Необходима и комиссия, которая будет следить за исполнением требований Кодекса ИИ. В противном случае, считает Михаил Федотов, высок риск невыполнения его ключевых положений.
Он также предостерег от роботизации человека, вызванной алгоритмизацией производства и иных процессов. Возникает вероятность подмены лечения здравоохранением, творчества — имитацией, науки — наукометрией.
В треке, посвященном применению этических принципов в работе ученых и центров развития ИИ, руководитель проектов Центра экспертизы по реализации федерального проекта «Искусственный интеллект» Аналитического центра при Правительстве РФ Сергей Астахов отметил: чем масштабнее технология, тем острее встают этические вопросы ее применения. «Можем ли мы надеяться на развитие технологий в гармонии с этикой?» — поинтересовался он.
Руководитель Центра искусственного интеллекта НИУ ВШЭ Алексей Масютин подчеркнул: следует осмыслить этичность не самого искусственного интеллекта, а его применения. Например, его использование при генерации лекарств кратно сокращает время их разработки, что особенно важно при необходимости быстрого запуска их производства, однако аналогичные принципы можно применить и при разработке опасных материалов, в том числе химического оружия. Нейросети позволяют более качественно и быстро реставрировать, но с их помощью можно создавать и дипфейки, манипулирующие людьми.
Чтобы управлять этическими принципами использования ИИ, нужна работа ученых многих специальностей. В Центре искусственного интеллекта НИУ ВШЭ проект «Этическая экспертиза в сфере ИИ» возглавляет доцент Школы философии и культурологии университета Анастасия Углева.
Это, полагает эксперт НИУ ВШЭ, не снимает ответственности с разработчиков ИИ. В ходе подготовки программ следует тестировать их на возможность неэтичного применения, в том числе вероятной дискриминации отдельных групп людей. Ответственную задачу выполняют те, кто готовит данные для разработки, именно от качества их работы во многом зависит правильность алгоритмов работы искусственного интеллекта. Важно также совершенствовать инструменты детекции возможных недостатков программ, отметил Алексей Масютин.
Он также сообщил, что группа по этике Центра искусственного интеллекта регулярно оценивает качество баз и программ, в том числе и с индустриальными партнерами Вышки.
В рамках форума «Поколение GPT. Красные линИИ» были вручены награды за вклад в развитие этики в сфере искусственного интеллекта. За исследования по этической экспертизе в сфере ИИ и проведение регулярного научного семинара по гуманистическим и этическим аспектам развития цифровых технологий была отмечена доцент Школы философии и культурологии факультета гуманитарных наук НИУ ВШЭ Анастасия Углева.
Вам также может быть интересно:
Вышка расширит сотрудничество с Агентством стратегических инициатив для разработки передовых решений
В Высшей школе экономики прошел День знакомства университета и Агентства стратегических инициатив (АСИ). Стороны представили свои исследовательские и аналитические проекты и наметили направления совместной работы. Задача ученых и экспертов — повысить эффективность и ускорить внедрение в практику прорывных научных разработок по широкому спектру направлений — от экономических прогнозов до нейропротезирования.
Исследователи НИУ ВШЭ и Сбера добавят эмоций искусственному интеллекту
Ученые Центра искусственного интеллекта НИУ ВШЭ и исследователи Лаборатории искусственного интеллекта Сбербанка разработали специальную систему, которая с помощью больших языковых моделей сделает искусственный интеллект (AI) более эмоциональным при общении с человеком. Синтезом AI-эмоций займутся набирающие популярность мультиагентные модели. Научная работа о проведенном исследовании опубликована в рамках Международной совместной конференции по искусственному интеллекту — IJCAI 2024.
Вышка и «Яндекс» научат преподавателей российских вузов ИИ-грамотности
«Яндекс Образование» и факультет компьютерных наук НИУ ВШЭ (ФКН ВШЭ) создали совместный онлайн-гайд, посвященный промптингу — формулированию запросов к нейросетям. Он доступен всем на платформе «Яндекса» и в первую очередь будет полезен преподавателям, которые никогда не пользовались GPT в работе или только начинают применять ИИ-инструменты. Как правильно создать запрос к нейросети? Как грамотно использовать GPT-модели в образовательных целях? Какие задачи преподаватели могут решать с помощью искусственного интеллекта? Гайд отвечает на эти и другие вопросы по работе с нейросетями.
«Оставаться конкурентным специалистом без применения нейросетей может стать нелегкой задачей»
Цифровые технологии прочно вошли в нашу жизнь и продолжают стремительно развиваться. Неудивительно, что все чаще возникает вопрос, сможет ли однажды искусственный интеллект полностью заменить специалистов. О перспективах лингвистики в эпоху нейросетей рассуждает Даниил Осипов, кандидат филологических наук, доцент Школы иностранных языков НИУ ВШЭ.
В НИУ ВШЭ разработали нейросеть для оценки уровня владения английским языком
Нейросеть «ИИ Лингво» была разработана совместно Центром искусственного интеллекта, Школой иностранных языков и онлайн-кампусом НИУ ВШЭ. Модель обучена на основе тысяч экспертных оценок устных и письменных текстов. Система позволяет оценить способность к устному и письменному общению на английском языке.
Ученые НИУ ВШЭ рассказали о будущем искусственного интеллекта в судопроизводстве
Современные технологии меняют не только нашу повседневную жизнь, но и такие консервативные сферы, как судебная система. Сотрудники кафедры конституционного и административного права НИУ ВШЭ в Нижнем Новгороде Ирина Михеева и Олег Шерстобоев проанализировали возможности и вызовы, связанные с внедрением ИИ в судебный процесс. Исследование опубликовано в журнале «Вестник Российского университета дружбы народов».
«В третий раз соберем на площадке ВШЭ лучших ученых и исследователей ИИ в России»
Институт искусственного интеллекта и цифровых наук ФКН НИУ ВШЭ и Центр ИИ 25–26 октября в Москве организуют конференцию Fall into ML 2024. Главной темой ежегодного мероприятия станут перспективы развития фундаментального искусственного интеллекта. Титульным партнером конференции выступит Сбер.
В Вышке упростили разработку интеллектуальных сервисов
Ученые НИУ ВШЭ разработали MLOps-платформу, применение которой поможет внедрять эффективные и безопасные ИИ-решения во всех кампусах и подразделениях университета. В дальнейшем рассматривается возможность масштабирования инструмента на внешний рынок.
Бизнес-разработки и студенты в науке: какие еще задачи у новой лаборатории Института ИИ и цифровых наук
Лабораторию теоретических основ моделей ИИ возглавил старший научный сотрудник факультета компьютерных наук Никита Пучкин, за прикладные разработки будет отвечать руководитель проектов Института ИИ и цифровых наук Елизавета Жемчужина. О том, чем будет заниматься лаборатория, как планируется организовать сотрудничество с индустриальными партнерами и какая роль в ее работе отводится студентам Вышки, они рассказали в интервью «Вышке.Главное».
НИУ ВШЭ – Нижний Новгород и ИТ-кампус будут готовить магистров в области ИИ и компьютерного зрения
17 сентября директор нижегородского кампуса Высшей школы экономики Анна Бляхман и директор АНО «Проектный офис ИТ-кампуса НЕЙМАРК» Валерий Черепенников заключили соглашение о присоединении ИТ-кампуса к программе магистратуры «Искусственный интеллект и компьютерное зрение». Поступить на программу в сетевом формате можно будет в 2025 году.