19.08.2016, 15:37:31
Войти Зарегистрироваться
Авторизация на сайте

Ваш логин:

Ваш пароль:

Забыли пароль?

Навигация
Новости
Поход в Холодный Яр

Если вы ищете, чем заняться в выходные, любите походы и природу Украины, то вероятно вам понравится поход. Поход в Холодный Яр, если точнее. Холодный

Увлекательный тур пешком по Карпатам

Украина самая большая страна Европы с неплохой инфраструктурой и разнообразием ландшафта. Здесь действительно есть, что посмотреть, от памятников славянской старины до изумительных природных красот.

Бизнес план кредитного потребительского
Финансовый рынок нашей страны довольно развит, что в общем-то характерно для государств всего мира с развитыми или развивающимися экономики. Но потребности в финансовых услугах все равно, в значительной

Бизнес онлайн от сбербанка
Услуга Сбербанк бизнес онлайн от Сбербанка России – это новая, уникальная и, несомненно удобная возможность для предпринимателей и юридических лиц управлять своими счетами в банке, а также проводить необходимые

Архив новостей
Реклама
Календарь событий
Right Left

Amazon отказывается от секретного инструмента подбора ИИ, который показал предвзятость в отношении женщин

  1. Маскулинный язык
  2. ПРОБЛЕМА ИЛИ ЛЕЧЕНИЕ?

САН-ФРАНЦИСКО (Рейтер) - Amazon.com Inc's ( AMZN.O ) специалисты по машинному обучению раскрыли большую проблему: их новый рекрутинговый движок не любил женщин.

С 2014 года команда создавала компьютерные программы для просмотра резюме соискателей с целью механизации поиска лучших талантов, сообщили Reuters пять человек, знакомых с этой работой.

Автоматизация играет ключевую роль в доминировании Amazon в области электронной коммерции, будь то на складах или при принятии решений о ценах. Экспериментальный инструмент найма компании использовал искусственный интеллект, чтобы дать кандидатам на работу оценки от одной до пяти звезд - так же, как покупатели оценивают продукты на Amazon, говорят некоторые люди.

«Все хотели этот святой Грааль», - сказал один из людей. «Они буквально хотели, чтобы это был двигатель, на котором я собираюсь дать вам 100 резюме, он выплюнет пятерку лучших, и мы будем нанимать их».

Но к 2015 году компания поняла, что ее новая система не оценивает кандидатов на должности разработчиков программного обеспечения и других технических должностей с учетом гендерных факторов.

Это связано с тем, что компьютерные модели Amazon были обучены проверять заявителей, соблюдая схемы резюме, представленные компании в течение 10-летнего периода. Большинство пришло от мужчин, что является отражением мужского доминирования в технологической индустрии.

По сути, система Amazon учит себя, что кандидаты-мужчины предпочтительнее. Это наказывало резюме, которые включали слово «женский», как в «капитане женского шахматного клуба». И, по словам людей, знакомых с вопросом, понизило рейтинг выпускников двух женских колледжей. Они не указали названия школ.

Amazon отредактировал программы, чтобы сделать их нейтральными к этим конкретным условиям. Но это не было гарантией того, что машины не разработают другие способы сортировки кандидатов, которые могут оказаться дискриминационными, говорили люди.

Компания Сиэтла в конечном итоге распустила команду к началу прошлого года, потому что руководители потеряли надежду на проект, по словам людей, которые говорили на условиях анонимности. Рекрутеры Amazon смотрели на рекомендации, сгенерированные инструментом, при поиске новых сотрудников, но никогда не полагались исключительно на эти рейтинги.

Amazon отказалась комментировать проблемы, связанные с технологией, но сказала, что этот инструмент «никогда не использовался рекрутерами Amazon для оценки кандидатов». Компания не стала более подробно рассказывать. Не оспаривалось, что рекрутеры смотрели на рекомендации, выработанные механизмом рекрутинга.

Эксперимент компании, о котором сообщает Reuters первым, предлагает пример использования машинного обучения. Это также служит уроком для растущего списка крупных компаний, включая Hilton Worldwide Holdings Inc ( HLT.N ) и Goldman Sachs Group Inc ( GS.N ), которые хотят автоматизировать части процесса найма.

По данным опроса, проведенного компанией CareerBuilder в 2017 году, около 55 процентов менеджеров по персоналу в США считают, что искусственный интеллект, или ИИ, станет регулярной частью их работы в течение следующих пяти лет.

Работодатели давно мечтали использовать технологии для расширения сети найма и уменьшения зависимости от субъективных мнений кадровых агентств. Но компьютерные ученые, такие как Нихар Шах, который преподает машинное обучение в университете Карнеги-Меллона, говорят, что предстоит еще много работы.

«Как убедиться, что алгоритм справедлив, как убедиться, что алгоритм действительно интерпретируемый и объяснимый - это еще далеко», - сказал он.

«Как убедиться, что алгоритм справедлив, как убедиться, что алгоритм действительно интерпретируемый и объяснимый - это еще далеко», - сказал он

ФОТОГРАФИЯ: Брошюры для потенциальных соискателей доступны на «Amazon Jobs Day», ярмарке вакансий в Центре исполнения Amazon.com в Фолл-Ривер, Массачусетс, США, 2 августа 2017 года. REUTERS / Brian Snyder / File Photo

Маскулинный язык

Эксперимент Amazon начался в ключевой момент для крупнейшего в мире онлайн-ритейлера. Машинное обучение набирало обороты в мире технологий благодаря росту недорогих вычислительных мощностей. А кадровый отдел Amazon собирался приступить к найму: с июня 2015 года численность персонала компании выросла более чем в три раза, до 575 700 человек, показывают нормативные документы.

Таким образом, в эдинбургском инженерном центре Amazon была создана команда, которая насчитывала около десятка человек. Их цель состояла в том, чтобы разработать ИИ, который мог бы быстро сканировать сеть и находить кандидатов, достойных вербовки, сказали люди, знакомые с этим вопросом.

Группа создала 500 компьютерных моделей, ориентированных на конкретные рабочие места и места работы. Они научили каждого распознавать около 50 000 терминов, которые фигурировали в резюме кандидатов. По словам людей, алгоритмы научились придавать мало значения навыкам, которые были обычными для ИТ-кандидатов, таким как умение писать различные компьютерные коды.

Вместо этого технология отдает предпочтение кандидатам, которые описывают себя, используя глаголы, чаще встречающиеся в резюме мужчин-инженеров, такие как «казненный» и «захваченный», сказал один человек.

Гендерный уклон был не единственной проблемой. Люди говорили, что проблемы с данными, которые лежат в основе суждений моделей, означают, что неквалифицированных кандидатов часто рекомендуют для любых работ. По словам Амазонки, поскольку технология дает результаты практически случайно, компания закрыла проект.

ПРОБЛЕМА ИЛИ ЛЕЧЕНИЕ?

Другие компании продвигаются вперед, подчеркивая стремление работодателей использовать AI для найма.

Кевин Паркер, исполнительный директор HireVue, стартапа в Солт-Лейк-Сити, сказал, что автоматизация помогает фирмам выходить за рамки тех же рекрутинговых сетей, на которые они давно полагаются. Его фирма анализирует речь и выражения лица кандидатов в видео-интервью, чтобы уменьшить зависимость от резюме.

«Вы не возвращались в те же старые места; ты не собирался возвращаться только в школы Лиги плюща, - сказал Паркер. Клиенты его компании включают в себя Unilever PLC ( ULVR.L ) и Хилтон.

Компания Goldman Sachs создала собственный инструмент анализа резюме, который пытается сопоставить кандидатов с подразделением, в котором они будут «лучше всего подходить», говорится в сообщении компании.

Microsoft Corp's ( MSFT.O LinkedIn, крупнейшая в мире профессиональная сеть, пошла дальше. Он предлагает работодателям алгоритмическое ранжирование кандидатов на основе их пригодности для размещения вакансий на своем сайте.

Тем не менее, Джон Джерсин, вице-президент LinkedIn Talent Solutions, сказал, что услуга не является заменой для традиционных рекрутеров.

«Я, конечно, не доверял бы ни одной системе ИИ сегодня, чтобы принять решение о найме самостоятельно», - сказал он. «Технология просто еще не готова».

Некоторые активисты говорят, что они обеспокоены прозрачностью ИИ. Американский союз гражданских свобод в настоящее время оспаривает закон, который разрешает уголовное преследование исследователей и журналистов, которые проверяют алгоритмы найма веб-сайтов на предмет дискриминации.

«Мы все больше внимания уделяем алгоритмической справедливости как проблеме», - сказала Рейчел Гудман, штатный адвокат Программы расового правосудия в ACLU.

Тем не менее, Гудман и другие критики ИИ признали, что подать в суд на работодателя может быть чрезвычайно сложно из-за автоматического найма: кандидаты на работу могут никогда не узнать, что он используется.

Слайд-шоу (5 изображений)

Что касается Amazon, компании удалось спасти кое-что из того, что она узнала из своего неудачного эксперимента с ИИ. Теперь он использует «сильно разбавленную версию» механизма набора, чтобы помочь с некоторыми элементарными делами, включая отбраковку дублированных профилей кандидатов из баз данных, сказал один из людей, знакомых с проектом.

Другой сказал, что новая команда в Эдинбурге была сформирована, чтобы дать еще одну попытку автоматизированному проверке занятости, на этот раз с акцентом на разнообразие.

Репортаж Джеффри Дастина в Сан-Франциско; Редактирование Джонатаном Вебером и Марлой Дикерсон

ПРОБЛЕМА ИЛИ ЛЕЧЕНИЕ?