Snapchat’s „Creepy“ AI Blunder nám pripomína, že chatboty nie sú ľudia. Ale ako sa línie rozmazávajú, riziká rastú

. Možno nikdy nebudeme vedieť, čo sa v skutočnosti stalo; Mohol by to byť ďalší príklad AI „halucinatng“ alebo výsledkom kybernetického útoku alebo dokonca iba prevádzkovej chyby.

Ai

Сегодня мы запускаем My Ai, нового чат-бота, работающего на па па па н snapн л л л л Openaj Gpt, к к л л л л Openaj gpt,. Moje ai доступен в качестве экспериментальной функции для под поч пээ нэй нэй нэй нээ нтол пээ этол пээ этол п ээй нээ нтол п эээ этор пээ эээ эээ эээ эээ эээ эээ эээ эээ эээйй этор пээ этов.

. Сделайте môj ai своим собственны tiež, дав ему имя и и н н и чата чата чата чата чата чата.

. „! В разговоры с MY Ai будут сохранены и пть проаналиллированы для уения рения рения рчшы п п п плл у уения рения. .

. . .

Ai

Autor

Daswin de Silva nepracuje, konzultuje, vlastní akcie alebo dostáva finančné prostriedky od akejkoľvek spoločnosti alebo organizácie, ktorá by z tohto článku ťažila, a nezverejnila žiadne relevantné pridruženie nad rámec ich akademického vymenovania.

Partneri

La Trobe University poskytuje financovanie ako člen konverzácie au.

.

. Internet sa samozrejme začal pýtať, či chatbot poháňaný chatgpt získal vnímanie.

Kurz zrážky v gramotnosti AI mohol tento zmätok potlačiť. .

Od pravidiel po adaptívne chatboty

. Aj keď navrhnem tento článok o programe Microsoft Word, prediktívna schopnosť AI softvéru navrhuje možné dokončenie vety.

Známy ako generatívna AI, tento relatívne nový typ AI sa odlišuje od svojich predchodcov podľa svojej schopnosti generovať nový obsah, ktorý je presný, ľudský a zdanlivo zmysluplný.

Generatívne nástroje AI, vrátane generátorov AI obrázkov a chatbotov, sú postavené na veľkých jazykových modeloch (LLMS). . Ako to hovorí spoluzakladateľka OpenAi Ilya Sutskever, LLM je

.

Pokročilé LLM sú tiež doladené ľudskou spätnou väzbou. Toto školenie, často poskytované nespočetnými hodinami lacnej ľudskej práce, je dôvodom, prečo môžu chatboty AI mať zdanlivo ľudské rozhovory.

OpenAI’s Chatgpt je stále vlajkovým generatívnym modelom AI. Jeho vydanie znamenalo hlavný skok od jednoduchších chatbotov založených na „pravidlách“, ako sú napríklad tie, ktoré sa používajú v online zákazníckych službách.

Chatboty podobné človeku, ktoré hovoria do skôr ako používateľ na boli spojené s vyššou úrovňou angažovanosti. Jedna štúdia zistila, že zosobnenie chatbotov vedie k zvýšenému zapojeniu, ktoré sa v priebehu času môže zmeniť na psychologickú závislosť. Ďalšia štúdia zahŕňajúca stresovaných účastníkov zistila, že ľudský chatbot bol s väčšou pravdepodobnosťou vnímaný ako kompetentný, a preto s väčšou pravdepodobnosťou pomôže znížiť stres účastníkov.

.

Spoločnosť Google používa generatívnu AI na vybudovanie „trénera osobného života“, ktorý údajne pomôže ľuďom s rôznymi osobnými a profesionálnymi úlohami vrátane poskytovania životných rád a odpovede na intímne otázky.

.

?

V nedávnom incidente Snapchat spoločnosť celú vec znížila na „dočasný výpad“. .

V každom prípade rýchlosť, s akou niektorí používatelia predpokladali, že chatbot dosiahol vnímanie, naznačuje, že vidíme bezprecedentný antropomorfizmus AI. Je to znásobené nedostatočnou transparentnosťou vývojárov a nedostatkom základného porozumenia medzi verejnosťou.

Nemali by sme podceňovať, ako môžu byť jednotlivci uvedení do omylu zjavnou autentickosťou ľudských chatbotov.

. .

Chatboty môžu byť obzvlášť škodlivé pre zraniteľnejších medzi nami, najmä pre tých, ktorí majú psychologické podmienky.

?

Možno ste už počuli o efekte „záhadného údolia“. Vzťahuje sa na ten nepríjemný pocit, ktorý získate, keď uvidíte humanoidného robota .

Zdá sa, že podobná skúsenosť sa objavuje v našich interakciách s ľudskými chatbotmi. Mierny výkyv môže zdvihnúť vlasy na zadnej strane krku.

Jedným z riešení môže byť strata ľudskej hrany a vrátiť sa k chatbotom, ktoré sú jednoduché, objektívne a faktické. Ale to by sa stalo na úkor angažovanosti a inovácií.

Vzdelávanie a transparentnosť sú kľúčové

Dokonca ani vývojári Advanced AI Chatbots často nedokážu vysvetliť, ako fungujú. .

Generatívna AI preukázala svoju užitočnosť v položkách s veľkými lístkami, ako je produktivita, zdravotná starostlivosť, vzdelávanie a dokonca aj sociálna spravodlivosť. Je nepravdepodobné, že odíde. Ako teda urobíme, aby to pre nás fungovalo?

Od roku 2018 existuje významný tlak na vlády a organizácie na riešenie rizík AI. .

V súčasnosti pre austrálske podniky neexistuje žiadna zákonná požiadavka na zverejnenie používania chatbotov. V USA v Kalifornii zaviedla „Bot Bill“, ktorý by si to vyžadoval, ale právni experti do nej strčili diery – a návrh zákona sa ešte musí vynútiť v čase písania tohto článku.

Okrem toho sú chatgpt a podobné chatboty zverejnené ako „ukážky prieskumu“. To znamená, že často prichádzajú s viacerými zverejneniami svojich prototypových povahy a bremeno zodpovedného použitia na používateľa.

Zákon o AI Európskej únii, prvé komplexné regulácie AI na svete, identifikoval miernu reguláciu a vzdelávanie ako cestu vpred – pretože nadmerná regulácia by mohla kupovať inováciu. .

• Umelá inteligencia (AI)
• Zákerná údolia
• AI model
• Etika umelej inteligencie

? Tu sú údaje, ktoré od vás ťahá

V apríli Snap splnil svoj chatbot s AI, môj AI, k dispozícii používateľom Snapchat. . .

. .

. Keď sa moja AI opýtala, či má umiestnenie používateľa, okamžite by to poprelo prístup k geolokačným údajom.

. Ľudia sa vzali na Twitter, aby vyjadrili, že sa zaoberala mojou AI, a začali sa zaujímať o to, aké užívateľské údaje môžu mať prístup.

?

Miesto

. Snap hovorí, že moja AI nezhromažďuje žiadne nové údaje o polohe od vás a vytiahne iba z údajov, ktoré ste poskytli Snapchat.

Niektorí používatelia povoľujú funkciu Snapchat s názvom Ghost Režim, ktorý vám umožňuje skryť svoju polohu pred vašimi priateľmi a odstrániť vás z mapy SNAP. Režim duchov však nezabezpečuje, aby môj AI nemal prístup k vašej polohe. Snap hovorí, že aj s režimom duchov, moja AI môže mať prístup k vašej polohe, ak ste udelili povolenie na sledovanie polohy Snapchat.

Snap uloží vaše rozhovory s mojou AI, kým ich manuálne odstránite, ale môže trvať až 30 dní, kým sa vaše konverzačné údaje s mojou AI odstránia z serverov Snapchat. Snap používa vaše rozhovory s mojou AI na trénovanie modelu AI a na lepšie zacielenie na personalizované reklamy.

Zásady ochrany osobných údajov spoločnosti Snapchat uvádzajú, že všetky snímky sú odstránené zo serverov Snapchat po tom, čo ich všetci príjemcovia prezerajú. . .