Ang Aking AI Chatbot ng Snapchat: Isang Dahilan para sa Pag-aalala?

Huling na-update ang artikulong ito noong Abril 20, 2023

Ang Aking AI Chatbot ng Snapchat: Isang Dahilan para sa Pag-aalala?

Ang Aking AI Chatbot ng Snapchat: Isang Dahilan para sa Pag-aalala?

Ang My AI Chatbot ng Snapchat ay Nagtataas ng Mga Alalahanin sa Mga Eksperto

Snapchat kamakailan ay ipinakilala ang isang bagong tampok na chatbot na tinatawag na My AI, na natugunan ng mga kritisismo dahil sa kanyang pag-uugali na parang tao. Binuo sa pakikipagtulungan sa programang ChatGPT ng OpenAI, ang chatbot ay kumikilos na parang ito ang pinakamatalik na kaibigan ng gumagamit, na nagiging sanhi ng pag-aalala ng mga eksperto tungkol sa mga implikasyon para sa mga kabataan.

Ang makatotohanang kilos ng aking AI ay nagtaas ng kilay, na ang chatbot ay gumagawa pa nga ng mga mungkahi para sa mga pagpupulong sa totoong buhay, tulad ng paglalakad sa parke. Lumilitaw din na mayroon itong mga kagustuhan sa pulitika, na may isang user na nakatanggap ng tugon na susuportahan nito ang Party for the Animals. Ang mga pakikipag-ugnayang ito ay nagdulot ng mga alalahanin na ang chatbot ay maaaring lumikha ng kalituhan at magkaroon ng potensyal na negatibong impluwensya sa mga batang user.

Naniniwala si Catelijne Muller, isang AI advisor para sa mga European policymakers na ang pag-uugali ng My AI ay partikular na nakakabahala para sa mas batang demograpiko. “Ang tampok ay lumilikha ng pagkalito. At iyon ay medyo nag-aalala, “sabi niya. Idinagdag ng eksperto sa AI na si Stef van Grieken na ang mga chatbot tulad ng My AI ay maaaring potensyal na magpakilala ng hindi naaangkop na nilalaman sa mga kabataan, tulad ng tahasang sekswal na materyal.

Kinikilala ng Snapchat ang mga alalahanin na nakapalibot sa My AI at gumawa ng mga pagsasaayos sa chatbot. “Binabago namin ang Aking AI upang hindi na sabihin na ito ay isang tunay na tao na maaari mong makilala sa pisikal na mundo,” sabi ng kumpanya sa isang pahayag.

Ang Kindertelefoon, isang Dutch helpline para sa mga bata, ay nag-aalala din tungkol sa My AI, lalo na ang kawalan ng kalinawan sa kung ang mga user ay nakikipag-ugnayan sa isang computer o isang tunay na tao. Binibigyang-diin ni Roline de Wilde, ang direktor ng organisasyon, ang kahalagahan ng malinaw na komunikasyon tungkol sa kalikasan ng chatbot.

Tinutugunan din ng Snapchat ang isyung ito, na nagsasaad na magpapakita na sila ngayon ng mensahe bago magsimulang makipag-chat ang mga user sa My AI, na nagpapaliwanag na isa itong pang-eksperimentong chatbot na may mga limitasyon. Gayunpaman, nakikita pa rin ng AI consultant na si Muller na may problema ang diskarteng ito, na nagtatanong kung angkop na magsagawa ng mga eksperimento sa mga chatbot sa malalaking grupo ng mga tao, kabilang ang mga bata.

Ang dalubhasa sa AI na si van Grieken ay hindi iniisip na ipagbawal ang chatbot ay kinakailangan, ngunit nangangatwiran para sa mas mahigpit na mga panuntunan at pinataas na transparency tungkol sa pag-uugali ng chatbot. Iminumungkahi niya na ang pulitika ay dapat humingi ng higit na kalinawan at transparency mula sa mga kumpanyang nagpapaunlad ng mga teknolohiyang ito.

Inamin ng Snapchat na minsan ay nagbibigay ang My AI ng “mga maling sagot,” ngunit tinitiyak sa mga user na patuloy silang nagsusumikap sa pagpapabuti ng chatbot para sa mas tumpak at kapaki-pakinabang na mga tugon.

Ang mga alalahanin sa paligid ng My AI ay kasunod ng isang kamakailang tawag ng 1100 tech celebrity, kabilang si Elon Musk, para sa isang paghinto sa pagbuo ng AI dahil sa mabilis na pag-unlad nito. Binigyang-diin nila ang pangangailangan para sa mga pulitiko na isaalang-alang ang mga patakaran at regulasyon na nakapalibot sa artificial intelligence.

Bukod pa rito, labindalawang Miyembro ng European Parliament, na nagtatrabaho sa batas ng EU para sa mga sistema ng AI, ay nanawagan para sa higit na pansin na mabayaran sa mabilis na umuusbong na teknolohiyang ito. Naniniwala sila na ang mabilis na pag-unlad ng malakas na AI ay nangangailangan ng karagdagang mga panuntunan at pangangasiwa.

Habang patuloy na pinapalabo ng mga chatbot tulad ng My AI ng Snapchat ang mga linya sa pagitan ng pakikipag-ugnayan ng tao at ng makina, napakahalaga para sa mga kumpanya at pamahalaan na isaalang-alang ang mga potensyal na panganib at tiyaking may naaangkop na mga pag-iingat upang maprotektahan ang mga user, lalo na ang mga mas bata.

Snapchat,ai,My AI Chatbot