IBM zawiesza rozwój narzędzi do rozpoznawania twarzy

Przez kilka ostatnich lat narzędzia do rozpoznawania twarzy przechodziły kolejne metamorfozy i udoskonalenia, m.in. za sprawą sztucznej inteligencji. Dzięki wykorzystaniu technologii uczenia maszynowego naukowcy mogli dopracować algorytmy i lepiej przygotować je do analizy ludzkich twarzy. Ale wraz z rozwojem tego segmentu rynku coraz częściej wspominano o tym, że takie narzędzia mogą przynieść nam więcej szkód niż korzyści. Wykorzystane w niewłaściwy sposób mogą ułatwić inwigilację społeczeństwa, dlatego część firm zaczęła odwracać się od tej technologii. Arvind Krishna, CEO IBM, poinformował amerykański kongres o tym, że rezygnuje z rozwoju systemów rozpoznawania twarzy, gdyż korporacja ostro sprzeciwia się wykorzystywaniu ich w narzędziach nadzoru społecznego, profilowania rasowego oraz łamania podstawowych praw człowieka. Krishna zasugerował także, że w tych trudnych czasach należy podjąć narodowy dialog nie tylko w sprawie tego, jak technologia rozpoznawania twarzy powinna być wykorzystywana, ale czy w ogóle powinno prowadzić się jakiekolwiek prace w tym zakresie. Według dyrektora generalnego IBM sztuczna inteligencja oddaje w ręce organów władzy potężne narzędzia, które pozostają poza kontrolą społeczeństwa. Warto zauważyć, że dyskusja o zasadności korzystania z tej technologii toczy się w niezwykle gorącej atmosferze. Niedawno na jaw wyszła bowiem afera związana z oprogramowaniem Clearviwe AI, które umożliwiało wykorzystanie systemów rozpoznawania twarzy w celach inwigilacyjnych. Platforma może odnaleźć cyfrowe ślady użytkownika sieci dysponując wyłącznie jego zdjęciem. Na tym jednak nie koniec, gdyż wokół tej technologii narosły także wątpliwości natury moralnej. Naukowcy z MIT oraz Uniwersytetu Stanforda udowodnili, że systemy rozpoznawania twarzy można przystosować do identyfikacji płci oraz koloru skóry skanowanej osoby. Istnieją zatem realne obawy o to, że ktoś mógłby wykorzystać narzędzia tego typu do inwigilacji konkretnych grup społecznych, gdyby zostały wdrożone np. do systemów monitoringu miejskiego, jak uczyniły to władze Chin, upodabniając swój kraj do dystopijnej rzeczywistości rodem z Czarnego lustra. W dobie masowych protestów przeciwko dyskryminacji rasowej przetaczających się przez Stany Zjednoczone decyzja o porzuceniu takich narzędzi przez IBM wydaje się jak najbardziej zasadna.