Roboty uratują świat przed... robotami

Naukowcy z Uniwersytetu Massachusetts w Amherst opracowali platformę do tworzenia algorytmów, które powinny zapobiegać niebezpiecznemu zachowaniu maszyn ze sztuczną inteligencją (AI) i nie pozwolić na wyrządzenie szkody ludziom, poinformowało wydanie „Science Alert”.

Naukowcy nazwali algorytmy seldonowskimi - na cześć postaci serii powieści fantastyczno-naukowych „Fundacja” Isaaca Asimova. Chociaż nie dają AI zrozumienia norm moralnych i etycznych ani tego, co jest dobre dla ludzi, pozwalają systemowi określić, jakie zachowanie jest niepożądane, i nie dopuścić do niego.

Jako przykład naukowcy przytaczają zastosowanie algorytmów seldonowskich do leczenia cukrzycy, gdy automatyczny system kontroluje pompę insulinową. W tym przypadku niepożądanym zachowaniem jest to, co przyczynia się do krytycznie niskiego poziomu insuliny we krwi lub hipoglikemii.

Badacze opracowali również algorytm dla systemu prognozowania średniej ocen studenta, aby uniknąć uprzedzeń płciowych obecnych w niektórych innych algorytmach.