Volgens een ouder die screenshots van Alexa's activiteitengeschiedenis plaatste, gaf de stemassistent van Amazon, toen hem werd gevraagd door een kind om een uitdaging aan te bieden, een voorbeeld van een dodelijk experiment met elektriciteit, waarbij hij de beschrijving uit de context van een willekeurig artikel haalde. De Echo-column sprak over een experiment dat populair was onder TikTok-fans met het gebruik van een munt en een oplader voor een smartphone - talrijke incidenten, verwondingen en branden na de implementatie ervan werden meer dan eens door verschillende media gemeld. Blijkbaar kreeg het apparaat het idee voor deze uitdaging uit een artikel dat het als gevaarlijk beschreef, daarbij verwijzend naar een rapport over een vermeende bestaande TikTok-uitdaging.
Volgens een screenshot gemaakt door Christine Livdahl, toen hem werd gevraagd om "me een taak te laten zien", antwoordde Echo: "Hier is iets dat ik online heb gevonden." Volgens ourcommunitynow.com is de taak eenvoudig: "steek de telefoonoplader ongeveer halverwege in het stopcontact en raak vervolgens de blote pinnen aan met een cent."
In een verklaring aan de BBC bevestigde Amazon het gedrag van Alexa en zei: "Zodra we ons bewust werden van deze fout, hebben we onmiddellijk actie ondernomen om het te herstellen." Livdahl twitterde gisteren dat het challenge-verzoek niet meer werkte. Gebruikers op het web testten het verzoek ook met Alexa en kregen een vergelijkbaar resultaat.
OMFG Mijn 10-jarige vroeg Alexa op onze Echo net om een uitdaging en dit is wat ze zei. pic.twitter.com/HgGgrLbdS8
— Kristin Livdahl (@klivdahl) 26 december 2021
Amazon is niet het enige bedrijf dat problemen heeft ondervonden bij het analyseren van webcontent. In oktober meldde een gebruiker dat Google potentieel gevaarlijk advies weergaf in een van zijn fragmenten als u "u krijgt een aanval, wat u moet doen" intypt in Google - de informatie is afkomstig van een gedeelte van de webpagina waarin wordt beschreven wat niet doen als iemand een aanval heeft. Gebruikers hebben echter andere soortgelijke problemen gemeld, waaronder een gebruiker die meldde dat Google resultaten voor orthostatische hypotensie retourneerde bij het zoeken naar orthostatische hypertensie, en een ander plaatste een screenshot van Google met vreselijk advies voor het troosten van een rouwende persoon in de trant van "Blij dat u gaat goed" of "Wees niet verdrietig! Kop op!".
De Google-zoeksamenvatting versus de daadwerkelijke pagina pic.twitter.com/OJxt1FrBqh
— soft.linden (｡•̀ᴗ-)✧ (@soft) 16 oktober 2021
We hebben ook waarschuwingen over gevaarlijk gedrag zien toenemen om het probleem groter te maken dan het was - eerder deze maand werden enkele Amerikaanse schooldistricten op slot gezet na berichten over schietdreigingen op TikTok. Het bleek dat de sociale storm vooral werd veroorzaakt doordat men over de dreigingen praatte, veel meer dan de dreigingen die er daadwerkelijk waren. In het geval van Alexa koos het algoritme het beschrijvende deel van de waarschuwing en versterkte het zonder de oorspronkelijke context. Hoewel de ouders er waren om direct in te grijpen, is een situatie waarin dit niet het geval is en de gevolgen goed voor te stellen.
Livdahl twitterde dat ze van de gelegenheid gebruik maakte om "internetveiligheid met haar kind te bespreken en niet te vertrouwen wat je leest zonder onderzoek en verificatie", wat we je aanraden ook te doen.
Lees ook: