CBS NEWS Оригинал

CBS News: умнея, искусственный интеллект ставит перед разработчиками больше этических вопросов

Искусственный интеллект пользуется всё большей популярностью, однако, по мнению CBS News, складывается такое ощущение, что чем «умнее» становятся технологии, тем больше они создают проблем. Несмотря на старания разработчиков, искусственный интеллект порой ведёт себя своенравно и далеко не беспристрастно, поэтому всё больше людей в IT-индустрии США призывают к созданию норм регулирования новой технологии на государственном уровне.

Искусственный интеллект развивается быстро, но множество людей опасаются, что новые технологии могут принести больше проблем, чем ожидается. Старший продюсер CNET Дэн Паттерсон отправился в Сан-Франциско, чтобы встретиться с ведущими специалистами в области искусственного интеллекта и узнать их мнение о недавних обвинениях в предвзятости этой технологии.

ДЭН ПАТТЕРСОН, старший продюсер CNET: Искусственный интеллект с огромной скоростью меняет мир. Эти технологии применяются повсюду — от карт до программ по отслеживанию рекламной статистики, беспилотных автомобилей и даже для автоматизации сельского хозяйства.

Многие социальные сети видят в искусственном интеллекте решение широкого круга проблем, таких как удаление пропаганды и сокращение постов с разжиганием ненависти в интернете. Однако искусственный интеллект зачастую может создать больше проблем, чем решить.

Индустрия высоких технологий встала перед сложной задачей обучения компьютерных систем пониманию этических норм и игнорированию свойственной человеку предвзятости. Компании Amazon пришлось свернуть свою программу по подбору кадров с помощью искусственного интеллекта, после того как оказалось, что системе была свойственна предвзятость по половому признаку. Google поспешно распустил свой совет по вопросам этики в области искусственного интеллекта после протестов сотрудников, потребовавших отстранения консервативного эксперта. Автоматизированные системы Facebook не смогли предотвратить тысячи просмотров кадров стрельбы в Новой Зеландии.

Компания Salesforce со штаб-квартирой в Сан-Франциско использует искусственный интеллект, для того чтобы автоматизировать задачи предприятий в крупных масштабах.

Я обсудил с Кэти Бэкстер, разработчиком процесса обучения искусственного интеллекта соблюдению этических норм, почему так непросто прививать человеческие ценности компьютерным системам, наделённым искусственным интеллектом.

КЭТИ БЭКСТЕР, специалист в области искусственного интеллекта компании Salesforce: Все решения, которые принимают люди, вне зависимости от того, будут ли включены эти особенности в продукцию или нет, основаны на их собственном опыте, на том, что важно для них. И это автоматически закладывается в продукцию. С позиции искусственного интеллекта, предвзятость обычно прививается в процессе его обучения.

Так что если вы закладываете в свою модель такие понятия, как, скажем, возраст, раса, пол, в дело могут вступить исторические факторы, которые будут оказывать влияние на то, как с этого момента ваша модель будет обучаться.

Многие влиятельные фигуры в IT-индустрии призывают к тому, чтобы технологии искусственного интеллекта регулировались на федеральном уровне. Поэтому я спросил у руководителя исследовательского направления компании Salesforce Ричарда Соушера, как могут выглядеть такие нормы.

РИЧАРД СОУШЕР, руководитель исследовательского направления компании Salesforce: Я действительно считаю, что регулирование искусственного интеллекта имеет смысл, особенно в том случае, когда эти технологии применяются при исследовании геномов, внедряются в транспортные средства. Ведь управления, занимающиеся регулировкой транспорта, не разрешают ни одному стартапу пускать свои беспилотные автомобили на дороги без множества серьёзных испытаний на соответствие требованиям безопасности. Или вот, например, нельзя просто так позволить искусственному интеллекту принимать важные, касающиеся жизни и смерти решения в медицинской сфере, предварительно не проанализировав ситуацию и не удостоверившись, что такое решение не будет предвзятым и выгодным лишь какой-то определённой подгруппе лиц.

ДЭН ПАТТЕРСОН: Эксперты в сфере ИИ, включая Бэкстер и Соушера, едины во мнении, что, хотя искусственный интеллект, может быть, и невидим, он играет важную роль в повседневной жизни. И с усовершенствованием и усложнением программного обеспечения роль эта будет становиться всё значительнее.

С репортажем для CBS News из Сан-Франциско старший продюсер CNET Дэн Паттерсон. 

Дата выхода в эфир 10 апреля 2019 года. 

Материалы ИноТВ содержат оценки исключительно зарубежных СМИ и не отражают позицию RT
Подпишись на наш Telegram-канал, чтобы не пропустить лучшие заметки ИноТВ
источник
CBS NEWS США Северная Америка
теги
интернет исследование компьютер робот США
Сегодня в СМИ
Загрузка...

INFOX.SG

Загрузка...
Лента новостей RT

Новости партнёров