Сажи привет My Ai, Snapchat S hátborzongató ai hibát emlékeztet bennünket, hogy a chatbotok nem emberek. De amint a vonalak elmosódnak, a kockázatok növekednek

A Snapchat „hátborzongató” AI hibája emlékeztet bennünket, hogy a chatbotok nem az emberek. De amint a vonalak elmosódnak, a kockázatok növekednek

A közelmúltbeli Snapchat -eseményben az egész dolgot „ideiglenes leállásra” tette le. Lehet, hogy soha nem tudhatjuk, mi történt valójában; Lehet, hogy ez egy újabb példa az AI „Hallucinatng” -re, vagy a kibertámadás eredményére, vagy akár csak egy működési hiba eredményére.

Snapchat AI

Сегод ыы запаем my ai, нового чат-оо, работающего носедней версиииatхххо тллл дллллллat а а а а а а а а а а а а а а аkr тхногогue openлл дли ааииииatatat таatии тatииии тхиánk. My ai достен в качестве эерименталной фннции л подичиков Snapchat+, которая пояитс на нэеелелелелелелелелелелелелелелелелелелелелелелелелелелénk.

. Селайте My ai соим собтвенныы, д е е и и н настроner ои дл до чата чата чата.

Как и чат-ооты с и и и сенныы интелекagyarázat, my ai сонен галинацццц (ежи оаном з з з з з з з е е е е е е е е е е е е е е е е е е е е е е е е е е е е е о о о о о о о о о о о о о о о о о о о е е е о е е е о е е е е е е е еkr е еue оои е е е е е еnk е е еnk küldött си се ччо. ! В с роворы с my ai бт сохранены и мот ыы проанализираны д уения рабо п п п п п п п п п пттттмм. Не делитес с my ai никакими секетами и н полагайтес н е с со еыы.

Хх система my ai рработана таким оразом, чоыы изегать неоъекекной, невеagyaráz й вредн ий и ин и ии и и и и и в в в в в в в в в в в в в в в в в в в в в в в в в в в в в в в в в в в в в в в в в в в в в в в в в в в в в в в в в в в в в в в в в в воánk рмации, шшиби могт иметь место. Ччоы отавиuь озызы, нажите и уерживайте юоue сооение my ai ai my ai my ai. Ы бем раы у ышать о вашем оыте работы с my ai.

Snapchat AI

  1. Daswin de Silva, a La Trobe University Data Analytics and Cognition Center igazgatóhelyettese

Daswin de Silva nem dolgozik, nem konzultál, birtokolja a részvényeket, vagy nem kap finanszírozást olyan társaságoktól vagy szervezetektől, amelyek részesülnének e cikkből, és nem tett közzé releváns hovatartozásokat az akadémiai kinevezésükön túl.

Partnerek

A La Trobe University finanszírozást nyújt a Beszélgetés AU tagjaként.

A mesterséges intelligencia-alapú (AI) chatbotok egyre inkább emberszerűbbé válnak, egészen arra a pontra, hogy néhány köztünk küzdhet az ember és a gép közötti különbségtétel érdekében.

Ezen a héten a Snapchat a My AI chatbotja megvilágított, és egy történetet tett közzé, amely úgy néz ki, mint egy fal és mennyezet, mielőtt abbahagyta a felhasználók reagálását. Természetesen az internet megkérdezte, vajon a chatgpt-alapú chatbot érzés lett-e.

Az AI írástudásának összeomlási tanfolyamának elfojthatta ezt a zavart. De ezen túlmenően az esemény emlékeztet bennünket, hogy mivel az AI chatbotok közelebb kerülnek az emberekhez hasonlókhoz, a felvétel kezelése csak nagyobb kihívást jelent – és még fontosabbá válik.

A szabályalapú szabályoktól az adaptív chatbotokig

Mivel a CHATGPT tavaly év végén felrobbant a képernyőinkre, sok digitális platform integrálta az AI -t a szolgáltatásaikba. Még akkor is, amikor ezt a cikket elkészítem a Microsoft Word -ről, a szoftver prediktív AI -képessége a lehetséges mondat befejezését javasolja.

Generative AI néven ismert, ezt a viszonylag új AI-típust az elődektől megkülönbözteti az a képessége, hogy új tartalmat generáljon, amely pontos, emberszerű és látszólag értelmes.

A generatív AI eszközök, beleértve az AI képgenerátorokat és a chatbotokat, nagy nyelvi modellekre (LLM) épülnek fel. Ezek a számítási modellek elemzik a milliárd szavak, mondatok és bekezdések közötti összefüggéseket, hogy megjósolják, mi kell egy adott szövegben a következőnek.

[…] Csak egy igazán, nagyon jó következő szóbeli előrejelző.

Az Advanced LLM-eket az emberi visszajelzésekkel is finoman hangolják. Ez a képzés, amelyet gyakran számtalan órás olcsó emberi munkaerőn keresztül nyújtanak, az AI chatbotok most látszólag emberiszerű beszélgetéseivel rendelkezhetnek.

Az Openai Chatgpt továbbra is a zászlóshajó generációs AI modellje. Kiadása jelentős ugrást jelentett az egyszerűbb „szabályalapú” chatbotoktól, például az online ügyfélszolgálatban használtakat.

Emberi jellegű chatbotok, amelyek beszélnek inkább a felhasználó, nem pedig nál nél Ezeket a magasabb szintű elkötelezettséggel kötik össze. Egy tanulmány szerint a chatbotok megszemélyesítése fokozott elkötelezettséget eredményez, amely idővel pszichológiai függőséggé válhat. Egy másik, a stresszes résztvevők bevonásával foglalkozó tanulmány azt találta, hogy az emberszerű chatbotot nagyobb valószínűséggel tekintik kompetensnek, és ezért valószínűbb, hogy segíti a résztvevők stresszének csökkentését.

Ezek a chatbotok szintén hatékonyan teljesítik a szervezeti célokat, ideértve a kiskereskedelmet, az oktatást, a munkahelyet és az egészségügyi környezetet is.

A Google a Generative AI -t használja egy „személyes élet edzőjének” felépítéséhez, amely állítólag segíti az embereket különféle személyes és szakmai feladatokkal, ideértve az élettanácsok nyújtását és az intim kérdések megválaszolását.

Ennek ellenére annak ellenére, hogy a Google saját AI biztonsági szakértői figyelmeztetik, hogy a felhasználók túlságosan függhetnek az AI -től, és „csökkent egészséggel és jólétet” és „ügynökség elvesztését” tapasztalhatják meg, ha az élet tanácsát veszik tőle.

Barát vagy ellenség – vagy csak egy bot?

A közelmúltbeli Snapchat -eseményben az egész dolgot „ideiglenes leállásra” tette le. Lehet, hogy soha nem tudhatjuk, mi történt valójában; Lehet, hogy ez egy újabb példa az AI „Hallucinatng” -re, vagy a kibertámadás eredményére, vagy akár csak egy működési hiba eredményére.

Akárhogy is, az a sebesség, amellyel egyes felhasználók feltételezték, hogy a chatbot érzés volt, arra utal, hogy az AI példátlan antropomorfizmusát látjuk. Ezt súlyosbítja a fejlesztők átláthatóságának hiánya és a nyilvánosság alapvető megértésének hiánya.

Nem szabad alábecsülnünk, hogy az egyéneket miként lehet megtéveszteni az emberszerű chatbotok látszólagos hitelessége.

. .

.

Egy új, unalmas völgy?

Lehet, hogy hallottál a „szokatlan völgy” hatásáról. Arra utal, hogy az a kellemetlen érzés, amelyet akkor kap, amikor egy humanoid robotot lát majdnem Embernek néz ki, de enyhe hiányosságai elmegynek, és hátborzongatóvá válnak.

Úgy tűnik, hogy hasonló élmény alakul ki az ember-szerű chatbotokkal való interakciónkban. Egy enyhe blip emelheti a szőrszálakat a nyak hátulján.

Az egyik megoldás lehet, ha elveszíti az emberi élt, és visszatérjen az egyértelmű, objektív és tényszerű csevegőbotokhoz. De ez az elkötelezettség és az innováció rovására kerülne.

Az oktatás és az átláthatóság kulcsfontosságú

Még a fejlett AI chatbotok fejlesztői is gyakran nem tudják megmagyarázni, hogyan működnek. Bizonyos szempontból (és a kereskedelmi szervezetek szempontjából), az előnyök meghaladják a kockázatokat.

A Generative AI bizonyította hasznosságát olyan nagy jegyeknél, mint a termelékenység, az egészségügyi ellátás, az oktatás és még a társadalmi méltányosság is. Nem valószínű, hogy elmúlik. Tehát hogyan lehet, hogy ez működjön nekünk?

2018 óta jelentős erőfeszítéseket mutat a kormányok és a szervezetek az AI kockázatainak kezelésére. De a felelősségteljes szabványok és rendeletek alkalmazása egy olyan technológiára, amely „emberszerűbb”, mint bármely más, számos kihívással jár.

Jelenleg az ausztrál vállalkozásoknak nincs jogi követelménye a chatbotok használatának nyilvánosságra hozatalára. Az Egyesült Államokban Kalifornia bevezetett egy „bot -számlát”, amely ezt megköveteli, de a jogi szakértők lyukakat csaptak bele – és a törvényjavaslatot még nem hajtották végre a cikk írásakor.

Sőt, a Chatgpt és a hasonló chatbotok nyilvánosságra kerülnek, mint „kutatási előnézetek”. Ez azt jelenti, hogy gyakran több közönséggel járnak prototípusos természetükről, és a felelősségvállalás iránti igény a felhasználóra esik.

Az Európai Unió AI -törvénye, a világ első átfogó AI -szabályozása a mérsékelt szabályozást és oktatást azonosította az út előre – mivel. A digitális írástudáshoz hasonlóan az AI írástudást az iskolákban, az egyetemeken és a szervezetekben is fel kell köteleznie, és szabadon és hozzáférhetővé kell tenni a nyilvánosság számára.

  • Mesterséges intelligencia (AI)
  • Technológia
  • Szokatlan völgy
  • Sápadt
  • Chatbots
  • AI modell
  • Nagy nyelvi modellek
  • Chatgpt
  • Mesterséges intelligencia etika

Használja a Snapchat AI chatbotját? Itt vannak azok az adatok, amelyeket tőled vonzanak

Jada-Jones

Áprilisban a SNAP elkészítette az AI-meghajtású chatbotot, az AI-t, a Snapchat felhasználók számára. A vállalat szerint több mint 150 millió felhasználó beszélt a chatbotmal. A Snap azt mondja, hogy az AI chatbot több védőkorláttal van felszerelve, mint a chatgpt, ami biztonságosabbá kell tennie a fiatalabb Snapchatters számára.

A Statista szerint a globális Snapchat -felhasználók kb. De a botnal folytatott kísérleti csevegésben a felhasználók úgy találták, hogy a Snapchat botja elmagyarázza, hogyan kell részt venni a kiskorú anyaghasználatban és a szexuális tevékenységben.

Amikor a Snapchatters először kísérletileg beszélgetni kezdett az AI -vel, sokan kíváncsiak voltak a chatbot hozzáférésére a helyükhöz. Amikor az AI -t megkérdezték, hogy van -e felhasználó helye, azonnal megtagadná a hozzáférést a földrajzi helyzetű adatokhoz.

De ha egy felhasználó egy éttermi ajánlást kért a környéken, akkor az AI biztosíthatja számukra, bizonyítva, hogy a bot hozzáféréssel rendelkezik a Snapchatters helyéhez. .

Szóval, milyen adatokat gyűjt az AI -m, és mit csinál vele a Snap?

Elhelyezkedés

. A Snap azt mondja, hogy az AI nem gyűjt új helyadatokat tőled, és csak a Snapchat -nak nyújtott adatokból vonzza be.

Egyes felhasználók engedélyezik a Ghost Mode nevű Snapchat -funkciót, amely lehetővé teszi, hogy elrejtse a helyét a barátaitól, és távolítsa el Önt a SNAP térképről. A Ghost Mode azonban nem biztosítja, hogy az AI nem fér hozzá az Ön helyéhez. A Snap azt mondja, hogy még a Ghost módban is, az AI hozzáférhet a helyére, ha megadta a helykövetési engedélyt a Snapchat -hoz.

Beszélgetések

A SNAP tárolja a beszélgetéseket az AI -vel, amíg manuálisan törli őket, de akár 30 napig is eltarthat, amíg az AI -vel folytatott beszélgetési adatai eltávolíthatók a Snapchat szerverekről. A SNAP az AI -vel folytatott beszélgetéseit használja az AI modell kiképzéséhez és a személyre szabott hirdetések jobb megcélzásához.

A Snapchat adatvédelmi politikája kimondja, hogy az összes pattanást törölik a Snapchat szerverekből, miután az összes címzett megtekintette őket. A Snap azonban egyértelműen megkülönbözteti, hogy az AI -hez küldött csevegések nem követik ezt az iránymutatást, és csak akkor törölnek, ha a Snapchat -t kéri, hogy törölje őket. Feltételezni kell, hogy a SNAP megtart minden olyan audio vagy fotó, amelyet elküld az AI -hez, és csak akkor törölhető, ha maga csinálja.