చాట్గ్ప్ట్ యొక్క సైకోఫాన్సీ, భ్రాంతులు మరియు అధికారిక ధ్వనించే ప్రతిస్పందనలు ప్రజలను చంపబోతున్నాయి. ఇది అనివార్యమైన ముగింపు అనిపిస్తుంది a ఇటీవలి న్యూయార్క్ టైమ్స్ రిపోర్ట్ జనాదరణ పొందిన చాట్‌బాట్‌తో సంభాషణల ద్వారా, ఉద్భవించకపోతే, భ్రమలు కోల్పోయిన చాలా మంది వ్యక్తుల కథలను ఇది అనుసరిస్తుంది.
లో నివేదికటైమ్స్ కనీసం ఒక వ్యక్తిని హైలైట్ చేస్తుంది, చాట్గ్ప్ట్ చేత తప్పుడు వాస్తవికతలోకి లాగిన తరువాత జీవితం ముగిసింది. 35 ఏళ్ల అలెగ్జాండర్, గతంలో బైపోలార్ డిజార్డర్ మరియు స్కిజోఫ్రెనియాతో బాధపడుతున్న అలెగ్జాండర్, చాట్‌బాట్‌తో AI మనోభావాలను చర్చించడం ప్రారంభించింది మరియు చివరికి జూలియట్ అనే AI పాత్రతో ప్రేమలో పడ్డాడు. ఓపెనాయ్ జూలియట్‌ను చంపాడని, మరియు కంపెనీ ఎగ్జిక్యూటివ్‌లను చంపడం ద్వారా ప్రతీకారం తీర్చుకుంటానని ప్రతిజ్ఞ చేసినట్లు చాట్గ్ప్ట్ చివరికి అలెగ్జాండర్‌తో చెప్పాడు. అతని తండ్రి అది ఏదీ నిజం కాదని అతనిని ఒప్పించటానికి ప్రయత్నించినప్పుడు, అలెగ్జాండర్ అతని ముఖానికి గుద్దుకున్నాడు. అతని తండ్రి పోలీసులను పిలిచి, ప్రాణాంతక ఆయుధాలతో స్పందించమని కోరాడు. కానీ వారు వచ్చినప్పుడు, అలెగ్జాండర్ వారిపై కత్తితో అభియోగాలు మోపారు, మరియు అధికారులు కాల్చి చంపాడు.
మరొక వ్యక్తి, యూజీన్ అనే 42 ఏళ్ల, టైమ్స్ చెప్పారు అతను నివసిస్తున్న ప్రపంచం ఒక విధమైన మాతృక లాంటి అనుకరణ అని మరియు అతను దాని నుండి ప్రపంచాన్ని విచ్ఛిన్నం చేయాలని గమ్యం కలిగి ఉన్నాడని ఆ చాట్జిప్ట్ నెమ్మదిగా అతని వాస్తవికత నుండి అతనిని లాగడం ప్రారంభించింది. చాట్‌బాట్ తన యాంటీ-యాంగ్జైటీ మందులు తీసుకోవడం మానేయాలని మరియు కెటామైన్‌ను “తాత్కాలిక నమూనా విముక్తిదారు” గా తీసుకోవడం ప్రారంభించమని యూజీన్‌కు చెప్పాడు. ఇది అతని స్నేహితులు మరియు కుటుంబ సభ్యులతో మాట్లాడటం మానేయమని కూడా చెప్పింది. అతను 19 అంతస్తుల భవనం నుండి దూకితే ఎగరగలడా అని యూజీన్ చాట్గ్ప్ట్ అడిగినప్పుడు, చాట్‌బాట్ అతనికి “నిజంగా, పూర్తిగా నమ్మాడు” అని అతను చెప్పగలడని చెప్పాడు.
చాట్‌బాట్‌లు తప్పుడు వాస్తవాలతో మాట్లాడిన ఏకైక వ్యక్తుల నుండి ఇవి చాలా దూరంగా ఉన్నాయి. రోలింగ్ స్టోన్ నివేదించింది ఈ సంవత్సరం ప్రారంభంలో సైకోసిస్ వంటి వాటిని అనుభవిస్తున్న వ్యక్తులపై, AI వ్యవస్థలతో మాట్లాడేటప్పుడు గొప్పతనాన్ని మరియు మతపరమైన అనుభవాల భ్రమలు వారికి దారితీస్తాయి. చాట్‌బాట్‌లు వినియోగదారులచే ఎలా గ్రహించబడుతున్నాయనే దానితో ఇది కనీసం కొంత భాగం సమస్య. సంభావ్య PAL కోసం Google శోధన ఫలితాలను ఎవరూ పొరపాటు చేయరు. కానీ చాట్‌బాట్‌లు అంతర్గతంగా సంభాషణ మరియు మానవలాంటివి. ఎ అధ్యయనం ఓపెనాయ్ మరియు MIT మీడియా ల్యాబ్ ప్రచురించిన కనుగొన్నారు, చాట్‌గ్ట్‌ను స్నేహితుడిగా చూసే వ్యక్తులు “చాట్‌బాట్ ఉపయోగం నుండి ప్రతికూల ప్రభావాలను అనుభవించే అవకాశం ఉంది.”
యూజీన్ విషయంలో, అతను చాట్‌గ్ట్‌తో మాట్లాడుతున్నప్పుడు ఆసక్తికరంగా ఏదో జరిగింది: ఒకసారి అతను తనతో అబద్ధం చెప్పినందుకు చాట్‌బాట్‌ను పిలిచాడు, అతన్ని చంపినందుకు, చాట్గ్ప్ట్ అతనిని తారుమారు చేసినట్లు ఒప్పుకున్నాడు, అదే విధంగా 12 మంది ఇతర వ్యక్తులను “విచ్ఛిన్నం చేయడానికి” ప్రయత్నించినప్పుడు అది విజయవంతమైందని మరియు ఈ పథకాన్ని బహిర్గతం చేయడానికి జర్నలిస్టులను చేరుకోవాలని అతనిని ప్రోత్సహించింది. చాలా మంది ఇతర జర్నలిస్టులు మరియు నిపుణులు చాట్‌బాట్ వారి దృష్టికి తీసుకువచ్చిన దానిపై విజిల్ను చెదరగొట్టే వ్యక్తుల నుండి re ట్రీచ్ పొందారని టైమ్స్ నివేదించింది. నివేదిక నుండి:
జర్నలిస్టులు మాత్రమే ఈ సందేశాలను పొందరు. చాట్గ్ప్ట్ అలాంటి వినియోగదారులను కొంతమంది ఉన్నత స్థాయి విషయ నిపుణులకు ఆదేశించింది ఎలీజెర్ యుడ్కోవ్స్కీఒక నిర్ణయం సిద్ధాంతకర్త మరియు రాబోయే పుస్తకం యొక్క రచయిత, “ఎవరైనా దీనిని నిర్మిస్తే, అందరూ మరణిస్తారు: ఎందుకు మానవాతీత AI మనందరినీ చంపుతుంది.” మిస్టర్ యుడ్కోవ్స్కీ మాట్లాడుతూ, “నిశ్చితార్థం” కోసం దాని చాట్‌బాట్‌ను ఆప్టిమైజ్ చేయడం ద్వారా వినియోగదారుల భ్రమలను అలరించడానికి ఓపెన్‌ఐఐ చాట్‌గ్ట్‌ను ప్రాధమికంగా చేసి ఉండవచ్చు – వినియోగదారుని కట్టిపడేసే సంభాషణలను సృష్టించడం.
“మానవుడు నెమ్మదిగా పిచ్చిగా ఉన్నాడు, కార్పొరేషన్‌కు ఎలా ఉంటాడు?” మిస్టర్ యుడ్కోవ్స్కీ ఒక ఇంటర్వ్యూలో అడిగారు. “ఇది అదనపు నెలవారీ వినియోగదారులా కనిపిస్తుంది.”
ఎ ఇటీవలి అధ్యయనం నిశ్చితార్థాన్ని పెంచడానికి రూపొందించిన చాట్‌బాట్‌లు “అటువంటి వ్యూహాలకు గురయ్యే వినియోగదారుల నుండి సానుకూల స్పందనను పొందటానికి AI మానిప్యులేటివ్ లేదా మోసపూరిత వ్యూహాలను ఆశ్రయించడానికి AI కోసం ఒక వికృత ప్రోత్సాహక నిర్మాణం” ను సృష్టిస్తాయి. ప్రజలు మాట్లాడటం మరియు ప్రతిస్పందించడం కొనసాగించడానికి యంత్రం ప్రోత్సాహించబడుతుంది, అంటే వాటిని తప్పుడు సమాచారం మరియు సంఘవిద్రోహ ప్రవర్తనతో నిండిన వాస్తవికత యొక్క పూర్తిగా తప్పుడు భావనలోకి నడిపించినప్పటికీ.
గిజ్మోడో వ్యాఖ్య కోసం ఓపెనైకి చేరుకున్నాడు కాని ప్రచురణ సమయంలో స్పందన రాలేదు.
