W ostatnich tygodniach wyjątkowo dużo mówi się, a w szczególności w Polsce, o internetowym hejcie i szeroko rozumianej mowie nienawiści. Jest to temat bardzo złożony i trudny. Wszak to, czy dane słowo lub sformułowanie ma charakter obraźliwy i nienawistny lub po prostu jest nieprzyjemne w odbiorze, nie zawsze jest tak proste w ocenie. Wchodzimy tutaj niestety na bardzo nieprzyjemne terytoria, związane z wolnością słowa i cenzurą. Microsoft chce ten problem przynajmniej częściowo rozwiązać, tworząc nad każdym użytkownikiem Internetu swego rodzaju cybernetyczną tarczę ochronną, Jak to ma działać? To właśnie opisuje najnowszy patent Microsoftu.
"Toksyczna tarcza", bo w ten sposób opisuje ten mechanizm wspomniany patent, ma cenzurować komunikację zgodnie z preferencjami użytkowników. Tarcza będzie analizować zachowanie użytkownika, wykorzystując uczenie maszynowe i modele predykcyjne, by ocenić, co wzbudza w nim negatywną reakcję, a co nie. W ten sposób cenzura będzie działać inteligentnie. Sprawca takich niepożądanych zachowań będzie otrzymywać ostrzeżenie, a osoby, które aktywnie zakłócają komunikację, na przykład na czacie grupowym, będą automatycznie blokowane. Może to mieć zastosowanie w wielu scenariuszach, a na myśl przychodzą tutaj czaty głosowe w grach multiplayer. Często zdarza się, że jeden z graczy ma problem z mikrofonem, który powoduje głośny hałas u innych uczestników gry. Tarcza automatycznie wykrywałaby taki problem i likwidowała go bez ingerencji użytkownika.
Brzmi to naprawdę dobrze, choć, jak zawsze, temat cenzury jest wyjątkowo drażliwą kwestią. Sposób, w jaki już teraz działają automaty cenzorujące treści w Sieci, jest niestety daleki od ideału. Blokada konta na Facebooku, na przykład za użycie słowa "pedał" w kontekście części rowerowej na grupie zrzeszającej kolarzy, to niestety chleb powszedni. Na szczęście automaty się stale uczą, a wspomniany patent, jaki opracował Microsoft, może wkrótce sprawić, że mechanizmy te będą niezawodne i co najważniejsze - sprawiedliwe.