Зам.-министър Николай Павлов: Младежите са най-ценният ресурс на България

Румънският министър на правосъдието се оттегля

Иван Гешев: Зад Иванчева стоят интереси на отломки от СДС и бивш правосъден министър

Чавушоглу: Турция взима предвид притесненията на НАТО за С-400

13 организации искат оставката на Порожанов Земеделското министерство води сектора към унищожение

Вицепрезидентът Йотова: Време е да кажем какво не ни харесва в ЕС Над 100 деца получиха награди от конкурс за Велики Преслав под патронажа на вицепрезидента

Състоянието на Бил Гейтс отново надхвърли 100 милрд. долара

Отлриха завишена радиоактивност на минералната вода в Невестино

Дончо Атанасов е подал оставка от ръководството на АПИ

Подписка за мъж, причинил смърт на пътя, докато обжалва 17-годишна присъда

Дерменджиев отговори на Любо Пенев

Земеделският министър: Проектите за плодове и зеленчуци са за близо 900 млн. лв.

МВнР: Над 70 български автомобила са платили завишени пътни такси в Турция

Отварят в понеделник офертите за новите кораби на флота

Вижте тартора на разбитата банда за телефонни измами

Компютри и човеци За изкуствения интелект и човешкото обучение

клавиатура, компютър, електронно управление

Компютрите не са отговорни, но програмистите им – да

В модерна компания като Amazon, почти цялата човешка дейност се ръководи от компютърни програми. Те не само наблюдават действията на работниците, но и се използват при предварителния подбор на персонала и дават препоръки кой трябва да бъде нает. Неотдавна компанията направи опит да използва изкуствения интелект, за да избере работници въз основа на техните автобиографии, тъй като досега резултатите постоянно дискриминират жените. Това е едно добре прието решение, което осветява два важни факта от машинното обучение и от най-широко използваната техника за обучение на изкуствения интелект в момента. Важно е, че тези програми, независимо колко бързо се обучават, могат да се учат само от предоставените им данни. Ако тези данни отразяват историческите модели на дискриминация, резултатите ще продължат да утвърждават тези модели.

Точно това откри Amazon при обучението на изкуствения интелект. Записите на кандидатите за работа, които са били наети в миналото, са били преобладаващо мъже, и така програмата е обучена на дискриминация към молбите от жени. Програмата има достъп до огромната база данни за кандидатите, така че, тя е имала възможност да извади пола като фактор, като например дали жените са завършили колеж. И тъй като машината няма нито съвест, нито съзнание, тя се държи така, сякаш жените са белязани със знак за малоценност, точно както е обучена от индустрията. Това е пример за един по-широк проблем, който се е появява в по-зловещ контекст, като например решения, които от лишените от свобода трябва да бъдат предсрочно освободени. Това се оказва, че е изключително трудно да се преодолее. Когато поискате от компютрите да откриват модели в базата данни, и това е залегнало в краткото описание на машинното обучение, моделите, които те намират, обикновено са истински, дори ако не сме ги забелязвали преди.

Ние ще държим Facebook или Google за отговорни от резултатите на техните алгоритми. Примерът на Amazon показва, че този принцип трябва да бъде разширен. Изкуственият интелект вече е сред нас, а фирмите, хората и правителствата, които го използват, трябва да бъдат отговорни за последствията от него.

(Редакционна статия, със съкращения, превод Павел Павлов)

Коментирайте от Фейсбук

Отговорете

error: Съдържанието на trud.bg и технологиите, използвани в него, са под закрила на Закона за авторското право и сродните му права.