Snapchats ‘läskiga’ AI Blunder påminner oss om att chatbots inte är människor.

. Vi kanske aldrig vet vad som faktiskt hände; Det kan vara ännu ett exempel på AI “hallucinatng”, eller resultatet av en cyberattack, eller till och med bara ett operativt fel.

. My ai достуен вачестве эсперименталной ннцции д подпикоSnapchat+, котораяоояstående нвис на press.

My ai может посоветовать идеи подарков на день рожения лей лей подрурира ,рродруррура ,ррирруррурруррира ,ррррурурира ,родруририррира ,роруррурр ра ,рррурруририра ,роодрури, саanj жжить рцецепт жина или даже написать хай о о д д д чегегимимоге чедером п п п д д 1. Селайте min ai своим собственныы, дав ем им и насadda.

Как и все чат-боты с искуствеrepex ски вчто уодно. Пожалста, помнитuss о ео мноvik! Р р р my р р их hus и п п п, п пр п п, пр п, пр п, пр п, пр п п, п п, п п, п п, по п, по м, по м, по мчш м, по м, по п мчш мчш мабsta ро пчш anj п adress. Н, делитесь с min ai н никакими секретами и нолагайтесь е его советы.

Хотя система min ai р рзоотана таким оразом, ччоы из изз anj н н ​​н нео неr. рмации, шшиби моvik. . .

Snapchat Ai

Avslöjande

Daswin de Silva arbetar inte för, konsulterar, äger aktier i eller får finansiering från något företag eller organisation som skulle dra nytta av denna artikel och har inte avslöjat några relevanta anslutningar utöver deras akademiska utnämning.

Anteckna

La Trobe University tillhandahåller finansiering som medlem i konversationen AU.

Artificial Intelligence-Powered (AI) Chatbots blir alltmer mänskliga av design, så att vissa bland oss ​​kan kämpa för att skilja mellan mänskliga och maskiner.

Den här veckan glittrade Snapchats min ai chatbot och publicerade en berättelse om det som såg ut som en vägg och tak, innan det slutade svara på användare. Naturligtvis började Internet ifrågasätta om den chatgpt-drivna chatboten hade fått mått.

En kraschkurs i AI -läskunnigheten kunde ha kvävt denna förvirring. Men utöver det påminner händelsen oss om att när AI -chatbots växer närmare att likna människor, kommer hanteringen av deras upptag bara att bli mer utmanande – och viktigare.

Från regler baserade till adaptiva chatbots

. Även när jag utarbetar den här artikeln om Microsoft Word, föreslår programvarans prediktiva AI -kapacitet möjliga meningsfulla meningsfulla meningsfulla slutningar.

.

Generativa AI -verktyg, inklusive AI -bildgeneratorer och chatbots, är byggda på stora språkmodeller (LLM). Dessa beräkningsmodeller analyserar föreningarna mellan miljarder ord, meningar och stycken för att förutsäga vad som borde komma nästa i en given text. Som Openai-grundare Ilya Sutskever uttrycker det, är en LLM

[…] Bara en riktigt, riktigt bra nästa ord prediktor.

Avancerade LLM: er är också finjusterade med mänsklig feedback. Denna utbildning, ofta levererad genom otaliga timmar med billigt mänskligt arbete, är anledningen till att AI-chatbots nu kan ha till synes mänskliga samtal.

Openais chatgpt är fortfarande flaggskeppsgenerativ AI -modell. Dess utgåva markerade ett stort språng från enklare “reglerbaserade” chatbots, till exempel de som används i online kundservice.

till en användare snarare än på dem har kopplats till högre engagemangsnivåer. . En annan studie som involverade stressade deltagare fann att en mänsklig-liknande chatbot var mer benägna att uppfattas som kompetent, och därför mer sannolikt att hjälpa till att minska deltagarnas stress.

Dessa chatbots har också varit effektiva för att uppfylla organisatoriska mål i olika miljöer, inklusive detaljhandel, utbildning, arbetsplats och sjukvårdsinställningar.

.

Detta trots Googles egna AI -säkerhetsexperter som varnar för att användare kan växa för beroende av AI och kan uppleva “minskad hälsa och välbefinnande” och en “förlust av byrå” om de tar livsråd från det.

Vän eller fiende – eller bara en bot?

I den senaste Snapchat -incidenten satte företaget hela saken till ett “tillfälligt avbrott”. Vi kanske aldrig vet vad som faktiskt hände; Det kan vara ännu ett exempel på AI “hallucinatng”, eller resultatet av en cyberattack, eller till och med bara ett operativt fel.

. .

Vi bör inte underskatta hur individer kan vilseledas av den uppenbara äktheten av mänskliga chatbots.

Tidigare i år tillskrivs en belgisk mans självmord till samtal som han hade haft med en chatbot om klimatöverföring och planetens framtid. I ett annat exempel befanns en chatbot med namnet Tessa erbjuda skadliga råd till människor genom en ätstörningshjälplinje.

Chatbots kan vara särskilt skadliga för de mer sårbara bland oss, och särskilt för de med psykologiska förhållanden.

En ny otäck dal?

. nästan .

Det verkar som om en liknande upplevelse dyker upp i våra interaktioner med mänskliga chatbots. En liten blip kan lyfta hårstrån på baksidan av nacken.

En lösning kan vara att förlora den mänskliga kanten och återgå till chatbots som är enkla, objektiva och faktiska. .

Utbildning och transparens är nyckeln

Även utvecklarna av avancerade AI -chatbots kan ofta inte förklara hur de fungerar. Men på vissa sätt (och när det gäller kommersiella enheter) överväger fördelarna riskerna.

. Det är osannolikt att det går bort. Så hur får vi det att fungera för oss?

Sedan 2018 har det varit en betydande drivkraft för regeringar och organisationer att ta itu med riskerna med AI. Men att tillämpa ansvarsfulla standarder och förordningar på en teknik som är mer “mänsklig liknande” än någon annan kommer med en mängd utmaningar.

. I USA har Kalifornien introducerat en “boträkning” som skulle kräva detta, men juridiska experter har pokat hål i det – och räkningen har ännu inte verkställts vid skrivande stund denna artikel.

Dessutom offentliggörs chatgpt och liknande chatbots som “forskningsförhandsvisningar”. Detta innebär att de ofta kommer med flera upplysningar om deras prototypiska natur, och onus för ansvarsfull användning faller på användaren.

Europeiska unionens AI -lag, världens första omfattande förordning om AI, har identifierat måttlig reglering och utbildning som vägen framåt – eftersom överskottsreglering kan stunt innovation. I likhet med digital läskunnighet bör AI -läskunnighet vara mandat i skolor, universitet och organisationer och bör också göras gratis och tillgängligt för allmänheten.

• Artificiell intelligens (AI)
• Teknologi
• snapchat
• Chatgpt
• Konstgjord intelligens etik

Använder du Snapchats ai chatbot? Här är de uppgifter som den drar från dig

I april gjorde Snap sin AI-drivna chatbot, min AI, tillgänglig för Snapchat-användare. Företaget säger att över 150 miljoner användare har pratat med chatbot. Snap säger att dess ai chatbot är utrustad med fler skyddsräcken än chatgpt, vilket borde göra det säkrare för yngre snapchatters.

Enligt Statista är cirka 20% av de globala Snapchat -användarna mellan 13 och 17 år, så det är avgörande att barn inte utsätts för olämpligt innehåll som chatboten kunde mata ut. Men i vissa experimentella chattar med boten fann användare att Snapchats bot skulle förklara hur de ska delta i mindreåriga ämnen och sexuell aktivitet.

När Snapchatters först började experimentellt prata med min AI, var många nyfikna på chatbots tillgång till deras plats. När min AI frågades om den hade en användares plats, skulle den omedelbart förneka att ha tillgång till geolokaliseringsdata.

Men om en användare bad om en restaurangrekommendation i sitt område, kan min AI tillhandahålla dem, vilket bevisar att botten har tillgång till Snapchatters plats. Folk tog till Twitter för att uttrycka att de var oroliga för min AI och började bli nyfiken på vilken användardata bot kunde komma åt.

Så vilken information samlar min AI, och vad gör SNAP med det?

Min AI kan komma åt din plats om du tillåter Snapchat att komma åt din plats. .

Vissa användare aktiverar en Snapchat -funktion som heter Ghost Mode som gör att du kan dölja din plats för dina vänner och ta bort dig från Snap Map. Ghost -läge säkerställer dock inte att min AI inte kan komma åt din plats. Snap säger att även med Ghost Mode på kan min AI komma åt din plats om du har gett platsspårningstillstånd till Snapchat.

Konversationer

Snap lagrar dina konversationer med min AI tills du manuellt tar bort dem, men det kan ta upp till 30 dagar för din konversationsdata med min AI att tas bort från Snapchat -servrar. .

Snapchats sekretesspolicy säger att alla snaps raderas från Snapchat -servrar efter att alla mottagare ser dem. Men Snap gör en tydlig åtskillnad att chattarna som skickas till min AI inte följer denna riktlinje och raderas bara om du begär Snapchat att ta bort dem. Det bör antas att Snap behåller alla ljud eller foton du skickar till min AI och bara kan raderas om du gör det själv.