За изкуствения интелект и човешкото обучение

Компютрите не са отговорни, но програмистите им - да

В модерна компания като Amazon, почти цялата човешка дейност се ръководи от компютърни програми. Те не само наблюдават действията на работниците, но и се използват при предварителния подбор на персонала и дават препоръки кой трябва да бъде нает. Неотдавна компанията направи опит да използва изкуствения интелект, за да избере работници въз основа на техните автобиографии, тъй като досега резултатите постоянно дискриминират жените. Това е едно добре прието решение, което осветява два важни факта от машинното обучение и от най-широко използваната техника за обучение на изкуствения интелект в момента. Важно е, че тези програми, независимо колко бързо се обучават, могат да се учат само от предоставените им данни. Ако тези данни отразяват историческите модели на дискриминация, резултатите ще продължат да утвърждават тези модели.

Точно това откри Amazon при обучението на изкуствения интелект. Записите на кандидатите за работа, които са били наети в миналото, са били преобладаващо мъже, и така програмата е обучена на дискриминация към молбите от жени. Програмата има достъп до огромната база данни за кандидатите, така че, тя е имала възможност да извади пола като фактор, като например дали жените са завършили колеж. И тъй като машината няма нито съвест, нито съзнание, тя се държи така, сякаш жените са белязани със знак за малоценност, точно както е обучена от индустрията. Това е пример за един по-широк проблем, който се е появява в по-зловещ контекст, като например решения, които от лишените от свобода трябва да бъдат предсрочно освободени. Това се оказва, че е изключително трудно да се преодолее. Когато поискате от компютрите да откриват модели в базата данни, и това е залегнало в краткото описание на машинното обучение, моделите, които те намират, обикновено са истински, дори ако не сме ги забелязвали преди.

Ние ще държим Facebook или Google за отговорни от резултатите на техните алгоритми. Примерът на Amazon показва, че този принцип трябва да бъде разширен. Изкуственият интелект вече е сред нас, а фирмите, хората и правителствата, които го използват, трябва да бъдат отговорни за последствията от него.

(Редакционна статия, със съкращения, превод Павел Павлов)