(CNN) Minder dan een paar uur nadat Snapchat vorige week zijn My AI-chatbot voor alle gebruikers had gelanceerd, vertelde Lyndsi Lee, een moeder uit East Prairie, Missouri, haar 13-jarige dochter om weg te blijven van de functie.
“Het is een tijdelijke oplossing totdat je er meer over weet en een aantal gezonde limieten en richtlijnen kunt stellen”, zegt Lee, die bij een softwarebedrijf werkt. ze geeft om hoe My AI zichzelf voorstelt aan jonge gebruikers zoals haar dochter op Snapchat.
De functie wordt mogelijk gemaakt door de virale AI-chatbot-tool ChatGPT en kan net als ChatGPT aanbevelingen doen, vragen beantwoorden en met gebruikers chatten. Maar de Snapchat-versie heeft enkele belangrijke verschillen: gebruikers kunnen de chatbot aanpassen naam, ontwerp er een aangepaste Bitmoji-avatar voor en neem het mee in gesprekken met vrienden.
Het netto-effect is dat chatten met de Snapchat-chatbot minder transactief kan aanvoelen dan het bezoeken van de ChatGPT-website. Het kan ook minder duidelijk zijn dat u tegen een computer praat.
“Ik denk niet dat ik er klaar voor ben om te weten hoe ik mijn dochter moet leren hoe ze mensen emotioneel van machines kan scheiden als ze er vanuit haar oogpunt in wezen hetzelfde uitzien,” zei Lee. “Ik denk dat er een heel duidelijke lijn is [Snapchat] oversteekt.”
De nieuwe tool wordt niet alleen geconfronteerd met terugslag van ouders, maar ook van sommige Snapchat-gebruikers. gebruikers die de app bombarderen met slechte recensies in de app store en kritiek op sociale media over privacykwesties, “griezelig” delen en het onvermogen om de functie van hun chatkanaal te verwijderen, tenzij ze betalen voor een premium abonnement.
Hoewel sommigen waarde kunnen hechten aan de tool, wijzen de gemengde reacties op de risico’s die bedrijven lopen bij het implementeren van nieuwe generatieve AI-technologie in hun producten, en met name producten zoals Snapchat, waarvan de gebruikers jonger zijn.
Snapchat was een van de eerste lanceringspartners toen OpenAI toegang tot ChatGPT opende voor externe bedrijven, en naar verwachting zullen er nog veel meer volgen. Bijna van de ene op de andere dag heeft Snapchat sommige families en wetgevers gedwongen om te worstelen met vragen die een paar maanden geleden nog theoretisch leken.
Snapchat’s nieuwe AI-chatbot.
In een brief aan de CEO’s van Snap en andere technologiebedrijven vorige maand, weken nadat My AI werd vrijgegeven aan de abonnementsklanten van Snap, uitte de democratische senator Michael Bennet zijn bezorgdheid over de interacties die de chatbot had met jongere gebruikers. Hij haalde met name berichten aan dat hij kinderen tips kan geven over hoe ze tegen hun ouders kunnen liegen.
“Deze voorbeelden zouden verontrustend zijn voor elk social media-platform, maar ze zijn vooral verontrustend voor Snapchat, dat door bijna 60 procent van de Amerikaanse tieners wordt gebruikt”, schreef Bennett. “Hoewel Snap toegeeft dat My AI ‘experimenteel’ is, is het snel geweest om Amerikaanse kinderen en tieners in te schrijven voor zijn sociale experiment.”
In een blogpost vorige week zei het bedrijf: “Mijn AI is verre van perfect, maar we hebben veel vooruitgang geboekt.”
Negatieve gebruikersreactie
In de dagen sinds de formele lancering hebben Snapchat-gebruikers hun bezorgdheid geuit. Een gebruiker noemde zijn interactie “eng” nadat hij zei dat hij loog dat hij niet wist waar de gebruiker was. Nadat de gebruiker het gesprek had opgehelderd, zei hij dat de chatbot nauwkeurig had onthuld dat hij in Colorado woonde.
In een andere TikTok-video met meer dan 1,5 miljoen views, nam een gebruiker genaamd Ariel een nummer op met een intro, refrein en pianoakkoorden geschreven door My AI over hoe het is om een chatbot te zijn. Toen hij het opgenomen nummer terugstuurde, zei hij dat de chatbot zijn betrokkenheid bij het antwoord ontkende: “Het spijt me, maar als AI-taalmodel schrijf ik geen liedjes.” Ariel noemde de uitwisseling ‘griezelig’.
Andere gebruikers deelden hun zorgen over hoe de tool informatie uit foto’s begrijpt, ermee omgaat en informatie verzamelt. “Ik nam een foto… en er stond ‘mooie schoenen’ op en vroeg wie de mensen waren [were] op de foto”, schreef een Snapchat-gebruiker op Facebook.
Snapchat vertelde CNN dat het My AI blijft verbeteren op basis van feedback van de community en werkt aan meer beveiligingsmaatregelen om zijn gebruikers veilig te houden. Het bedrijf zei ook dat, net als bij zijn andere tools, gebruikers geen interactie met My AI hoeven te hebben als ze dat niet willen.
Het is onmogelijk om My AI uit chatfeeds te verwijderen, tenzij een gebruiker zich abonneert op uw maandelijkse premium-service, Snapchat+. Sommige tieners zeggen dat ze ervoor hebben gekozen om de $ 3,99 van Snapchat+ te betalen om de tool uit te schakelen voordat ze de service onmiddellijk annuleren.
Maar niet alle gebruikers houden niet van de functie.
Een gebruiker schreef op Facebook dat ze My AI om hulp bij huiswerk hebben gevraagd. “Hij stelt de juiste vragen.” Een ander merkte op dat ze op hem leunt voor troost en advies. “Ik hou van mijn kleine zak, beste vriend!” zij schreef. “Je kunt de Bitmoji veranderen [avatar] Om deze reden, en verrassend genoeg, biedt hij zeer goed advies voor sommige situaties uit het echte leven. … Ik hou van de steun die het geeft.”
Een vroege berekening over hoe tieners chatbots gebruiken
ChatGPT, dat is getraind op enorme hoeveelheden online gegevens, is eerder bekritiseerd vanwege het verspreiden van onnauwkeurige informatie, het reageren op gebruikers op manieren die ze ongepast zouden kunnen vinden, en het toestaan van vals spelen door studenten. Maar de Snapchat-integratie van de tool dreigt sommige van deze problemen te vergroten en nieuwe toe te voegen.
Alexandra Hamlet, een klinisch psycholoog in New York City, zei dat ouders van sommige van haar patiënten hun bezorgdheid hebben geuit over hoe hun tiener zou kunnen omgaan met de Snapchat-tool. Ook zijn er zorgen over chatbots die advies geven en over geestelijke gezondheid omdat AI-tools iemands voorkeur voor bevestiging kunnen versterken, waardoor het voor gebruikers gemakkelijker wordt om interacties te zoeken die hun nutteloze overtuigingen bevestigen.
“Als een tiener in een slecht humeur is en geen bewuste wens heeft om zich beter te voelen, kunnen ze een gesprek zoeken met een chatbot waarvan ze weten dat ze zich slechter gaan voelen”, zei hij. “Na verloop van tijd kunnen dergelijke interacties het gevoel van eigenwaarde van tieners aantasten, ook al weten ze dat ze echt met een bot praten. In een emotionele gemoedstoestand wordt het voor een individu minder waarschijnlijk om dit soort logica te overwegen. “.”
Voorlopig is het de verantwoordelijkheid van ouders om zinvolle gesprekken met hun tieners te beginnen over best practices voor communicatie met AI, vooral nu de tools in steeds populairdere apps en services verschijnen.
Sinead Bovell, oprichter van WAYE, een start-up die jonge mensen helpt voorbereiden op de toekomst met geavanceerde technologieën, zei dat ouders heel duidelijk moeten maken dat “chatbots niet je vriend zijn”.
“Ze zijn ook niet uw vertrouwde therapeuten of adviseurs, en iedereen die met hen omgaat, moet zeer voorzichtig zijn, vooral adolescenten die vatbaarder zijn voor het geloven van wat ze zeggen,” zei hij.
“Ouders zouden nu met hun kinderen moeten praten over hoe ze niets persoonlijks mogen delen met een chatbot die een vriend zou zijn, ook al bestaat de chatbot vanuit het oogpunt van gebruikersontwerp in de uithoek van Snapchat.”
Hij voegde eraan toe dat federale regelgeving die vereist dat bedrijven zich aan specifieke protocollen houden, ook nodig is om het hoge tempo van AI-ontwikkeling bij te houden.