Tekoäly tekee nettikiusaamisesta entistä vaikeammin tunnistettavaa

Kuka kiusaa, kun kiusaaja on tekoäly? Miten tekoäly vaikuttaa netissä tapahtuvaan kiusaamiseen? MLL:n uusi selvitys alleviivaa, että nuoret tarvitsevat tukea tekoälyvälitteisen kiusaamisen tunnistamiseen ja puuttumiseen.

Mannerheimin Lastensuojeluliiton toteuttaman Nuoret ja nettikiusaaminen 2025 -selvityksen aineistosta on tuotettu Tekoäly kiusaamisen välineenä -lisäraportti. Se tarkastelee nuorten kokemuksia kiusaamisesta, joka on tuotettu tekoälyn avulla. Samalla raportti avaa ilmiötä laajemmin. Se osoittaa, että tekoäly on tuonut nettikiusaamiseen uusia, entistä vaikeammin tunnistettavia, haitallisia muotoja. Vanhemmat tarvitsevatkin tukea, jotta he voivat auttaa nuoria tekoälykyllästetyssä todellisuudessa.

– Tekoäly näyttää valitettavasti nopeuttavan ja tehostavan kiusaamista verkossa. Sen avulla voidaan jakaa esimerkiksi uhkaavia viestejä, luoda valeprofiileja, julkaista deepfake-videoita ja yhdistellä henkilötietoja uhrin vahingoittamiseksi. Tekoälyllä voidaan myös levittää vihamielistä sisältöä laajasti, mikä tekee kiusaamisesta entistä vaikeammin tunnistettavaa ja myös vastuukysymyksistä epäselviä, kuvaa mediakasvatuksen asiantuntija Rauna Rahja Mannerheimin Lastensuojeluliitosta.

Raportin havaintoja:

• 13 % nuorista kertoo kohdanneensa tekoälyllä tuotettua kiusaamissisältöä. Nuoret kertoivat nähneensä esimerkiksi tekaistuja alastonkuvia, erilaisia pilakuvia ja deepfake-videoita sekä rasistista ja vihamielistä sisältöä, joka kohdistuu vähemmistöihin.
• 28 % ei osannut sanoa, onko nähnyt tekoälyllä tuotettua sisältöä. Tulos viittaa siihen, että nuorten on vaikea tunnistaa tekoälyavusteista kiusaamista tai sisältöä. Näyttää myös siltä, että nuorten tekoälytaidot ovat vaihtelevia. He tarvitsevat tukea siihen, että he ymmärtävät tekoälyn tuottamaa sisältöä, tunnistavat sen tuottamisen ja jakamisen riskit ja pystyvät toimimaan tehokkaasti, jos näkevät kiusaamissisältöä, joka on tekoälyn tuottamaa.
• Runsas sosiaalisen median käyttö lisää riskiä nähdä kiusaamista ja myös kokea sitä itse. Yli 5 tuntia päivässä somea käyttävistä 19 % on kohdannut tekoälykiusaamista, kun alle 3 tuntia käyttävistä vastaava luku on 10 %. Yli 7 tuntia päivässä sosiaalista mediaa käyttävät joutuvat myös muita useammin kiusatuksi somessa.

MLL:n raportissa nostetaan esiin myös nuorten ja heidän vanhempiensa huolia, jotka liittyvät tekoälyavusteiseen kiusaamiseen. Uuden ilmiön äärellä nuorilta ja vanhemmilta puuttuu tietoa. Heillä voi olla huolia, jotka liittyvät esimerkiksi turvallisuuteen, yksityisyyteen ja tekoälyteknologian läpinäkymättömyyteen. Koska tekoäly helpottaa, nopeuttaa, voimistaa ja raaistaa kiusaamistekoja, on mahdollista, että niistä aiheutuu vieläkin syvemmät arvet uhrille ja puolustautuminen on entistäkin vaikeampaa. Tekoälysisältöjen tunnistaminen ja arviointi ei ole usein helppoa, kuten MLL:n osoittaa.

– Ne nuoret, joilla ei ole riittäviä taitoja, voivat jäädä paitsi mahdollisuuksista, ja toisaalta joutua myös ongelmiin, koska he eivät pysty toimimaan tekoälyn kyllästämässä verkkomaailmassa. Jos nuori ei ymmärrä, miten tekoäly toimii, hän voi olla alttiimpi harhaanjohtavalle sisällölle, kiusaamiselle tai manipuloinnille, Rahja pohtii.

Tekoälyn käyttö kiusaamisen välineenä vaikuttaa olevan nopeasti kasvava ja kehittyvä ilmiö, johon on puututtava ennakoivasti. Tässä vanhempien ja muiden nuorten elämässä olevien kasvattajien rooli korostuu.

– Tekoäly haastaa nuorten oikeuksia turvallisiin ja luotettaviin digitaalisiin ympäristöihin. Alustojen tulee huomioida alaikäisten turvallisuus ja tekoälyllä tuotettujen sisältöjen läpinäkyvyys nykytilaa vahvemmin. Nuorten tekoälytaitojen turvaaminen on tämän hetken keskeisimpiä oppimisen kysymyksiä, joihin tarjoamme tukea esimerkiksi MLL:n Nuortennetissä, Rahja nostaa.