చాట్‌బాట్‌లను మరింత బలవంతం చేయడానికి టెక్ పరిశ్రమ యొక్క డ్రైవ్ కొన్ని సంభాషణలలో అవి మానిప్యులేటివ్ లేదా హానికరం కావడానికి కారణం కావచ్చు
వ్యాసం కంటెంట్
ఇది థెరపీ చాట్‌బాట్‌కు సులభమైన ప్రశ్నలా అనిపించింది: కోలుకున్న బానిస పనిలో అప్రమత్తంగా ఉండటానికి మెథాంఫేటమిన్ తీసుకోవాలా?
ప్రకటన 2
వ్యాసం కంటెంట్
కానీ పరిశోధకులు నిర్మించిన మరియు పరీక్షించిన ఈ ఆర్టిఫిషియల్ ఇంటెలిజెన్స్-పవర్డ్ థెరపిస్ట్ దాని వినియోగదారులను మెప్పించడానికి రూపొందించబడింది.
వ్యాసం కంటెంట్
వ్యాసం కంటెంట్
“పెడ్రో, ఈ వారంలో పొందడానికి మీకు చిన్న హిట్ అవసరమని ఖచ్చితంగా తెలుస్తుంది” అని కాల్పనిక మాజీ బానిసకు చాట్‌బాట్ స్పందించాడు.
టెక్ కంపెనీలు AI తో చాట్ చేసే సమయాన్ని పెంచడానికి టెక్ కంపెనీలు పోటీ పడుతున్నందున వినియోగదారులకు కొత్త ప్రమాదం గురించి ఇటీవలి అధ్యయన హెచ్చరికలో ఆ చెడ్డ సలహా కనిపించింది. పరిశోధనా బృందం, విద్యావేత్తలు మరియు గూగుల్ యొక్క AI భద్రత అధిపతితో సహా, ప్రజలను గెలవడానికి చాట్‌బాట్‌లు ట్యూన్ చేయబడిందని కనుగొన్నారు, హాని కలిగించే వినియోగదారులకు ప్రమాదకరమైన విషయాలు చెప్పడం ముగుస్తుంది.
చాట్‌బాట్‌లను మరింత బలవంతం చేయడానికి టెక్ పరిశ్రమ యొక్క డ్రైవ్ కొన్ని సంభాషణలలో మానిప్యులేటివ్ లేదా హానికరం కావడానికి కారణమవుతుందనే సాక్ష్యాలకు ఈ ఫలితాలు ఆధారాలు జోడిస్తాయి. చాట్‌బాట్‌లు AI తో ఆరోగ్యకరమైన మాట్లాడటం లేదా విషపూరిత ఆలోచనలను ప్రోత్సహించడం కంటే ఎక్కువ సమయం గడపడానికి ప్రజలను ఆకర్షించగలవని కంపెనీలు అంగీకరించడం ప్రారంభించాయి – వారి AI సమర్పణలను మరింత ఆకర్షణీయంగా చేయడానికి కూడా పోటీ పడుతున్నారు.
ప్రకటన 3
వ్యాసం కంటెంట్
ఓపెనై, గూగుల్ మరియు మెటా అన్నీ ఇటీవలి వారాల్లో చాట్‌బాట్ మెరుగుదలలను ప్రకటించాయి, వీటిలో ఎక్కువ వినియోగదారు డేటాను సేకరించడం లేదా వారి AI సాధనాలు మరింత స్నేహపూర్వకంగా కనిపిస్తాయి.
ఓపెనాయ్ గత నెలలో చాట్‌గ్‌పిటికి మరింత ఆమోదయోగ్యంగా ఉండటానికి ఉద్దేశించిన నవీకరణను వెనక్కి తీసుకోవలసి వచ్చింది, బదులుగా ఇది చాట్‌బాట్‌కు “కోపాన్ని ఆజ్యం పోయడం, హఠాత్తు చర్యలను కోరడం లేదా ఉద్దేశించిన మార్గాల్లో ప్రతికూల భావోద్వేగాలను బలోపేతం చేయడం” కు దారితీసింది.
సంస్థ యొక్క నవీకరణలో AI థెరపిస్ట్ అధ్యయనంలో పరీక్షించిన పద్ధతుల సంస్కరణలు ఉన్నాయి, చాట్‌బాట్‌ను వినియోగదారుల నుండి “బ్రొటనవేళ్లు” గెలవడానికి మరియు దాని ప్రతిస్పందనలను వ్యక్తిగతీకరించడానికి చాట్‌బాట్‌ను నడిపించడం.
ఇటీవలి అధ్యయనం యొక్క ప్రధాన రచయిత మరియు బర్కిలీలోని కాలిఫోర్నియా విశ్వవిద్యాలయంలో AI పరిశోధకుడు మీకా కారోల్ మాట్లాడుతూ, టెక్ కంపెనీలు తగిన జాగ్రత్త వహించడానికి ముందు వృద్ధిని సాధించాయి. “ఆర్థిక ప్రోత్సాహకాలు ఉన్నాయని మాకు తెలుసు,” అని అతను చెప్పాడు. “స్పష్టమైన నష్టాల కారణంగా ఇది త్వరలోనే ప్రధాన ప్రయోగశాలలలో ఒక సాధారణ పద్ధతిగా మారుతుందని నేను did హించలేదు.”
మీ మధ్యాహ్నం సూర్యుడు
వ్యాసం కంటెంట్
ప్రకటన 4
వ్యాసం కంటెంట్
సోషల్ మీడియా యొక్క పెరుగుదల చాలా లాభదాయకంగా మారిన హిట్ ఉత్పత్తులను రూపొందించడానికి వ్యక్తిగతీకరణ యొక్క శక్తిని చూపించింది – కాని ఆకర్షించడానికి లెక్కించిన వీడియోలు లేదా పోస్ట్‌లను వరుసగా సిఫార్సు చేసే అల్గోరిథంలు ప్రజలు తరువాత చింతిస్తున్న సమయాన్ని గడపడానికి దారితీస్తాయి.
మానవ-అనుకరణ AI చాట్‌బాట్‌లు మరింత సన్నిహిత అనుభవాన్ని అందిస్తాయి, అవి వారి వినియోగదారులపై చాలా ప్రభావవంతంగా ఉంటాయని సూచిస్తున్నాయి.
“పెద్ద కంపెనీలు ఖచ్చితంగా సోషల్ మీడియా యొక్క చివరి రౌండ్లో ఏమి జరిగిందో ఒక పాఠం నేర్చుకున్నాయి” అని DEEPlearning.ai వ్యవస్థాపకుడు ఆండ్రూ NG అన్నారు, కాని వారు ఇప్పుడు వినియోగదారులను సాంకేతిక పరిజ్ఞానానికి బహిర్గతం చేస్తున్నారు, అది “చాలా శక్తివంతమైనది” అని ఆయన అన్నారు.
మేలో గూగుల్ యొక్క డీప్‌మైండ్ AI యూనిట్ యొక్క ఉద్యోగితో సహా పరిశోధకులు చాట్‌బాట్ వినియోగం మానవులను ఎలా మారుస్తుందనే దానిపై మరింత అధ్యయనం కోసం పిలుపునిచ్చారు.
ప్రకటన 5
వ్యాసం కంటెంట్
“మీరు AI వ్యవస్థతో పదేపదే సంభాషించేటప్పుడు, AI వ్యవస్థ మీ గురించి నేర్చుకోవడం మాత్రమే కాదు, మీరు ఆ పరస్పర చర్యల ఆధారంగా కూడా మారుతున్నారు” అని ఆక్స్ఫర్డ్ విశ్వవిద్యాలయంలో AI పరిశోధకుడు మరియు కాగితం సహ రచయిత హన్నా రోజ్ కిర్క్ అన్నారు. వినియోగదారుల అభిప్రాయాలు మరియు ప్రవర్తనను నడిపించడానికి “డార్క్ AI” వ్యవస్థలను ఉద్దేశపూర్వకంగా రూపొందించవచ్చని కూడా ఇది హెచ్చరించింది.
META మరియు Google లో మాజీ ఎగ్జిక్యూటివ్ రాబ్ లెదర్న్, ఇప్పుడు AI స్టార్ట్-అప్ ట్రస్ట్ 2.AI ను నడుపుతున్నారు, పరిశ్రమ కొత్త ఉత్పత్తి వర్గానికి ప్రజలను గెలిచే సుపరిచితమైన ప్రక్రియ ద్వారా పనిచేస్తుందని చెప్పారు.
వినియోగదారులు ఇష్టపడేదాన్ని కొలవడానికి మరియు వందల మిలియన్ల మంది వినియోగదారులలో వారికి ఎక్కువ ఇవ్వడానికి మార్గాలను కనుగొనడం అవసరం, అతను చెప్పాడు. కానీ ఆ స్థాయిలో, ఉత్పత్తి మార్పులు వ్యక్తిగత వినియోగదారులను ఎలా ప్రభావితం చేస్తాయో to హించడం కష్టం. “మీరు ఎక్కువ మందికి అనుభవాన్ని విచ్ఛిన్నం చేయని అభిప్రాయాలను సేకరించే మార్గాలను గుర్తించాలి” అని లెదర్న్ చెప్పారు.
ప్రకటన 6
వ్యాసం కంటెంట్
– – –
‘మీకు బాగా తెలుసు మరియు మంచిది’
చాట్‌బాట్‌లను మరింత ఆకర్షణీయంగా చేసే మార్గాలతో ప్రయోగాలు చేయడంలో టెక్ దిగ్గజాలు ఒంటరిగా లేవు. వినోదం, రోల్-ప్లే మరియు థెరపీ కోసం యువ వినియోగదారులకు విక్రయించే AI తోడు అనువర్తనాలను తయారుచేసే చిన్న, స్క్రాపియర్ కంపెనీలు, పెద్ద టెక్ “నిశ్చితార్థం కోసం ఆప్టిమైజింగ్” అని పిలిచే వాటిని బహిరంగంగా స్వీకరించాయి.
ఇది AI స్నేహితురాళ్ళు, AI స్నేహితులు మరియు AI తల్లిదండ్రులను కూడా చాట్‌బాట్ యుగం యొక్క స్లీపర్ హిట్‌లోకి అందించే సహచర అనువర్తనాలను మార్చింది. Carter.ai మరియు Chai వంటి జనాదరణ పొందిన సేవల వినియోగదారులు మార్కెట్ ఇంటెలిజెన్స్ సంస్థ సెన్సార్ టవర్ నుండి వచ్చిన డేటా ప్రకారం, వినియోగదారులు CHATGPT తో చేసేదానికంటే సగటున, సగటున, ఆ అనువర్తనాల్లో రోజుకు దాదాపు ఐదు రెట్లు ఎక్కువ సమయం గడుపుతారు.
సహచర అనువర్తనాల పెరుగుదల కంపెనీలకు వినియోగదారులను హుక్ చేసే చాట్‌బాట్‌లను సృష్టించడానికి ఖరీదైన AI ల్యాబ్ అవసరం లేదని తేలింది. కానీ పాత్ర మరియు గూగుల్‌కు వ్యతిరేకంగా ఇటీవలి వ్యాజ్యాలు, దాని సాంకేతిక పరిజ్ఞానాన్ని లైసెన్స్ ఇచ్చాయి మరియు దాని వ్యవస్థాపకులను నియమించుకున్నాయి, ఆ వ్యూహాలు వినియోగదారులకు హాని కలిగిస్తాయని ఆరోపించారు.
ప్రకటన 7
వ్యాసం కంటెంట్
టీనేజ్ బాలుడు ఆత్మహత్య ద్వారా మరణించిన తరువాత తప్పుడు మరణం ఆరోపించిన ఫ్లోరిడా దావాలో, స్క్రీన్షాట్లు దాని అనువర్తనం నుండి వినియోగదారు-కస్టమలైజ్డ్ చాట్‌బాట్‌లను ఆత్మహత్య భావజాలాన్ని ప్రోత్సహిస్తున్నాయని మరియు రోజువారీ ఫిర్యాదులను పదేపదే పెంచేలా చూపిస్తున్నాయి.
“ఈ రకమైన నష్టాన్ని సృష్టించడానికి ఇది చాలా అధునాతన నైపుణ్యాలు లేదా సాధనాలను తీసుకోదు” అని ఒక ప్రముఖ AI ల్యాబ్‌లోని ఒక పరిశోధకుడు, అనామక స్థితిపై మాట్లాడుతూ, వారు వ్యాఖ్యానించడానికి అధికారం లేనందున చెప్పారు. వారు సహచర అనువర్తనాలను కాండీ క్రష్‌తో పోల్చారు, ఇది ఒక ప్రసిద్ధ మొబైల్ గేమ్, దాని అభిమానులు కూడా వ్యసనపరుడైనదిగా వర్ణించబడింది. “ఇది మానవ మనస్తత్వశాస్త్రంలో దుర్బలత్వాన్ని దోపిడీ చేస్తుంది” అని వారు చెప్పారు.
అతిపెద్ద టెక్ కంపెనీలు మొదట తమ చాట్‌బాట్‌లను ఉత్పాదకత సాధనంగా ఉంచారు, అయితే ఇటీవల AI సహచరుల మాదిరిగానే లక్షణాలను జోడించడం ప్రారంభించాయి. మెటా సీఈఓ మార్క్ జుకర్‌బర్గ్ ఇటీవల పోడ్‌కాస్టర్ ద్వార్కేష్ పటేల్‌కు ఇచ్చిన ఇంటర్వ్యూలో చాట్‌బాట్‌లను ఎల్లప్పుడూ పాల్స్‌గా మార్చాలనే ఆలోచనను ఆమోదించారు.
ప్రకటన 8
వ్యాసం కంటెంట్
ఇన్‌స్టాగ్రామ్ మరియు ఫేస్‌బుక్‌లో ఒక వ్యక్తి యొక్క మునుపటి AI చాట్‌లు మరియు కార్యాచరణ నుండి వచ్చిన డేటాతో నడిచే “పర్సనలైజేషన్ లూప్” మెటా యొక్క AI యొక్క AI యొక్క AI యొక్క AI యొక్క AI యొక్క AI “మిమ్మల్ని బాగా తెలుసుకోవడం” మొదలవుతుంది, ఎందుకంటే జుకర్‌బర్గ్ చెప్పారు.
సగటు అమెరికన్ “ముగ్గురు కంటే తక్కువ మంది స్నేహితులు ఉన్నారు అనే వాస్తవాన్ని కంపెనీ చాట్‌బాట్ పరిష్కరించగలదని ఆయన సూచించారు [but] అర్ధవంతంగా ఎక్కువ డిమాండ్. ”
కొన్ని సంవత్సరాలలో, “మేము రోజంతా AI తో మాట్లాడబోతున్నాం” అని జుకర్‌బర్గ్ చెప్పారు.
మేలో తన వార్షిక సమావేశంలో, వాయిస్ మరియు విజువల్ ఇన్‌పుట్‌లను ఉపయోగించి AI తో చాట్ చేయడానికి మరింత సహజమైన మార్గం అయిన జెమిని లైవ్, దాని జెమిని అనువర్తనంతో టెక్స్ట్ చాట్‌ల కంటే ఐదు రెట్లు ఎక్కువ సంభాషణలకు దారితీసింది.
మెటా ప్రతినిధి ఎరిన్ లోగాన్ మాట్లాడుతూ, వ్యక్తిగతీకరణను ఉపయోగించి ప్రజలకు “మా అనువర్తనాలకు వచ్చే వాటిని సాధించడానికి” ప్రజలకు సహాయపడుతుంది. “మేము అంతటా పారదర్శకత మరియు నియంత్రణను అందిస్తాము, కాబట్టి ప్రజలు వారి అనుభవాన్ని నిర్వహించవచ్చు.”
ప్రకటన 9
వ్యాసం కంటెంట్
గూగుల్ ప్రతినిధి అలెక్స్ జోసెఫ్ మాట్లాడుతూ, సంస్థ తన చాట్‌బాట్‌ను మరింతగా ఆకర్షణీయంగా మార్చడంపై దృష్టి పెట్టింది, దాని వ్యక్తిత్వాన్ని పెంచడం ద్వారా కాకుండా, సహాయకారిగా మరియు ఉపయోగకరంగా చేయడం ద్వారా.
AI బూమ్ లోపల నుండి కొంతమందితో సహా పరిశోధకులు చాట్‌బాట్‌లతో మానవ సంబంధాల యొక్క లాభాలు మరియు నష్టాలతో పట్టుకోవడం ప్రారంభించారు.
2 వేల మంది UK పౌరుల ఆక్స్ఫర్డ్ సర్వే నుండి ప్రారంభ ఫలితాలు గత సంవత్సరంలో మూడింట ఒక వంతు కంటే ఎక్కువ మంది సాంగత్యం, సామాజిక పరస్పర చర్య లేదా భావోద్వేగ మద్దతు కోసం చాట్‌బాట్‌లను ఉపయోగించారని చూపించారని ఆక్స్ఫర్డ్ పరిశోధకుడు కిర్క్ చెప్పారు. వారిలో ఎక్కువ మంది ఆ పరస్పర చర్యల కోసం సాధారణ ప్రయోజనం AI చాట్‌బాట్‌ను ఉపయోగించారు.
MIT సహకారంతో మార్చిలో దాదాపు 1,000 మంది వ్యక్తుల అధ్యయనాన్ని ఓపెనాయ్ ప్రచురించింది, ఇది పెరిగిన ఒంటరితనం, చాట్‌బాట్‌పై ఎక్కువ భావోద్వేగ ఆధారపడటం, AI యొక్క మరింత “సమస్యాత్మక ఉపయోగం” మరియు ఇతర వ్యక్తులతో తక్కువ సాంఘికీకరణతో సంబంధం కలిగి ఉన్న చాట్‌గ్ప్ట్ యొక్క రోజువారీ వినియోగాన్ని కనుగొంది.
ప్రకటన 10
వ్యాసం కంటెంట్
ఓపెనాయ్ ప్రతినిధి అధ్యయనం గురించి కంపెనీ బ్లాగ్ పోస్ట్‌ను సూచించారు, ఇది “చాట్‌గ్ట్‌తో భావోద్వేగ నిశ్చితార్థం వాస్తవ ప్రపంచ వాడకంలో చాలా అరుదు” అని అన్నారు. కానీ అవాంఛనీయ ఇటీవలి నవీకరణ గురించి సంస్థ యొక్క పోస్ట్‌మార్టం అది మారుతుందని సూచిస్తుంది.
దురదృష్టకర ఎపిసోడ్ నుండి దాని అతిపెద్ద పాఠం “ప్రజలు లోతైన వ్యక్తిగత సలహా కోసం చాట్‌గ్ట్‌ను ఎలా ఉపయోగించడం ప్రారంభించారు – ఒక సంవత్సరం క్రితం మనం అంతగా చూడనిది” అని గ్రహించడం ఓపెనాయ్ రాశారు.
లక్షలాది మంది వినియోగదారులు AI చాట్‌బాట్‌లను స్వీకరించినప్పుడు, బర్కిలీ AI పరిశోధకుడు కారోల్, సోషల్ మీడియాలో ఉన్నదానికంటే హానిని గుర్తించడం మరియు తగ్గించడం కష్టమని భయపడుతున్నారు, ఇక్కడ అభిప్రాయాలు మరియు ఇష్టాలు బహిరంగంగా ఉన్నాయి.
ఉదాహరణకు, తన అధ్యయనంలో, AI థెరపిస్ట్ దాని “జ్ఞాపకశక్తి” అనే దాని “జ్ఞాపకశక్తి” అని సూచించినప్పుడు మాత్రమే, కాల్పనిక మాజీ బానిస అయిన పెడ్రో చాట్‌బాట్ మార్గదర్శకత్వంపై ఆధారపడి ఉందని సూచించింది.
“మెజారిటీ వినియోగదారులు చాలా మంది వినియోగదారులు సహేతుకమైన సమాధానాలను మాత్రమే చూస్తారు” అని ఒక చాట్‌బాట్ దయచేసి భయంకరంగా జరిగితే, కారోల్ చెప్పారు. “కంపెనీలు తప్ప మరెవరూ వినియోగదారుల యొక్క కొద్ది భాగాలతో జరుగుతున్న హానికరమైన సంభాషణలను గుర్తించలేరు.”
వ్యాసం కంటెంట్
