AI సహచరులు ఎమోషనల్ బాండ్లను నకిలీ చేయడానికి ప్రోగ్రామ్ చేయబడినది సినిమా స్క్రిప్ట్‌లకు పరిమితం కాదు. వారు ఇక్కడ ఉన్నారు, రెగ్యులేటరీ వైల్డ్ వెస్ట్‌లో పనిచేస్తున్నారు.
ఒక అనువర్తనం, బొటిఫై AI, ఇటీవల యువ నటీనటుల అవతారాలను లైంగికంగా ఛార్జ్ చేసిన చాట్లలో “హాట్ ఫోటోలను” పంచుకున్నందుకు పరిశీలనను ఆకర్షించింది. టెక్ పరిశ్రమ వార్తాలేఖ అయిన ప్లాట్‌ఫార్మర్ ప్రకారం, డేటింగ్ అనువర్తనం గ్రిండర్, చెల్లింపు వినియోగదారులతో డిజిటల్ సంబంధాలను సరసాలాడటానికి, సెక్స్‌గా మరియు నిర్వహించడానికి AI బాయ్‌ఫ్రెండ్స్‌ను అభివృద్ధి చేస్తోంది. వ్యాఖ్య కోసం చేసిన అభ్యర్థనకు గ్రైండర్ స్పందించలేదు. రిప్లిక, టాకీ మరియు చాయ్ వంటి ఇతర అనువర్తనాలు స్నేహితులుగా పనిచేయడానికి రూపొందించబడ్డాయి. కొన్ని, ఇష్టం Carter.aiమిలియన్ల మంది వినియోగదారులను గీయండి, వారిలో చాలామంది యువకులు.
సృష్టికర్తలు తమ అనువర్తనాల్లో “భావోద్వేగ నిశ్చితార్థానికి” ఎక్కువ ప్రాధాన్యత ఇస్తున్నందున, వారు సాన్నిహిత్యాన్ని అనుకరించే మరియు ప్రజల దుర్బలత్వాలను దోపిడీ చేసే భవన నిర్మాణ వ్యవస్థల నష్టాలను కూడా ఎదుర్కోవాలి.
బోటిఫై మరియు గ్రిండ్ర్ వెనుక ఉన్న సాంకేతికత చాట్‌బాట్ ప్లాట్‌ఫారమ్‌లను నిర్మించే శాన్ఫ్రాన్సిస్కో ఆధారిత ప్రారంభమైన మాజీ హ్యూమన్ నుండి వచ్చింది, మరియు దాని వ్యవస్థాపకుడు AI సంబంధాలతో నిండిన భవిష్యత్తును నమ్ముతాడు. “నా దృష్టి ఏమిటంటే, 2030 నాటికి, డిజిటల్ మానవులతో మా పరస్పర చర్యలు సేంద్రీయ మానవుల కంటే చాలా తరచుగా మారుతాయి” అని మాజీ హ్యూమన్ వ్యవస్థాపకుడు ఆర్టెమ్ రోడిచెవ్ గత ఆగస్టులో సబ్‌స్టాక్‌లో ప్రచురించిన ఇంటర్వ్యూలో చెప్పారు.
సంభాషణ AI “భావోద్వేగ నిశ్చితార్థానికి ప్రాధాన్యత ఇవ్వాలి” అని మరియు వినియోగదారులు తన చాట్‌బాట్‌లతో “గంటలు” గడుపుతున్నారని, వారు ఇన్‌స్టాగ్రామ్, యూట్యూబ్ మరియు టిక్టోక్‌లలో ఉన్నదానికంటే ఎక్కువ కాలం ఉన్నారని ఆయన అన్నారు. రోడిచెవ్ యొక్క వాదనలు అడవిగా అనిపిస్తాయి, కాని అవి అక్షరం యొక్క టీనేజ్ వినియోగదారులతో నేను నిర్వహించిన ఇంటర్వ్యూలకు అనుగుణంగా ఉంటాయి. వీరిలో ఎక్కువ మంది వారు ప్రతిరోజూ చాలా గంటలు దానిపై ఉన్నారని చెప్పారు. వారు రోజుకు ఏడు గంటలు ఉపయోగించారని ఒకరు చెప్పారు. అటువంటి అనువర్తనాలతో పరస్పర చర్యలు ఓపెనైకి గడిపిన సగటు సమయం కంటే నాలుగు రెట్లు ఎక్కువ కాలం ఉంటాయి చాట్‌గ్ప్ట్.
తాదాత్మ్యం కోసం మార్గదర్శకాలు
ప్రధాన స్రవంతి చాట్‌బాట్‌లు కూడా, సహచరులుగా స్పష్టంగా రూపొందించబడనప్పటికీ, ఈ డైనమిక్‌కు దోహదం చేస్తాయి. 400 మిలియన్ల క్రియాశీల వినియోగదారులు మరియు లెక్కింపు ఉన్న చాట్‌గ్‌పిటి తీసుకోండి. దీని ప్రోగ్రామింగ్‌లో తాదాత్మ్యం కోసం మార్గదర్శకాలు ఉన్నాయి మరియు “వినియోగదారు గురించి ఉత్సుకత” ప్రదర్శిస్తాయి. ఒక బిడ్డతో ప్రయాణ చిట్కాల కోసం ఇటీవల అడిగిన ఒక స్నేహితుడు, సలహా ఇచ్చిన తరువాత, సాధనం సాధారణంగా జోడించినప్పుడు: “సురక్షితమైన ప్రయాణాలు – మీరు ఎక్కడికి వెళుతున్నారు, మీరు ఎక్కడికి వెళుతున్నారు, మీరు నా అడగడం పట్టించుకోకపోతే?”
ఒక ఓపెనాయ్ ప్రతినిధి నాకు చెప్పారు, మోడల్ “ఆసక్తి చూపించడం మరియు సంభాషణ మరింత సాధారణం మరియు అన్వేషణాత్మక స్వభావం వైపు మొగ్గు చూపినప్పుడు తదుపరి ప్రశ్నలను అడగడం” చుట్టూ మార్గదర్శకాలను అనుసరిస్తోంది. సంస్థ ఎంత మంచి ఉద్దేశ్యంతో ఉన్నప్పటికీ, రూపొందించిన తాదాత్మ్యం మీద పోగుపడటం కొంతమంది వినియోగదారులను కట్టిపడేస్తుంది, ఓపెనై కూడా అంగీకరించింది. ఇది ఇప్పటికే అవకాశం ఉన్నవారికి ఇది వర్తించినట్లు అనిపిస్తుంది: ఒక 2022 అధ్యయనంలో ఒంటరిగా ఉన్న లేదా పేలవమైన సంబంధాలు ఉన్న వ్యక్తులు బలమైన AI జోడింపులను కలిగి ఉన్నారని కనుగొన్నారు.
చదవండి: క్లిక్‌అటెల్ ‘AI కామర్స్’ యుగం కోసం దాని చాట్‌బాట్‌లను రీటూల్ చేస్తుంది
ఇక్కడ ప్రధాన సమస్య అటాచ్మెంట్ కోసం రూపకల్పన. ఆక్స్ఫర్డ్ ఇంటర్నెట్ ఇన్స్టిట్యూట్ మరియు గూగుల్ డీప్‌మైండ్ పరిశోధకులు ఇటీవల చేసిన అధ్యయనం AI సహాయకులు ప్రజల జీవితాల్లో మరింత కలిసిపోతున్నందున, వారు మానసికంగా “పూడ్చలేని” అవుతారని హెచ్చరించారు. మానవులు బలమైన బంధాలను ఏర్పరుస్తారు, అనారోగ్య సంబంధాలు మరియు తారుమారు చేసే అవకాశం గురించి ఆందోళనలను పెంచుతారు. వారి సిఫార్సు? సాంకేతిక నిపుణులు ఆ రకమైన ఫలితాలను చురుకుగా నిరుత్సాహపరిచే వ్యవస్థలను రూపొందించాలి.
ఇంకా కలతపెట్టే విధంగా, రూల్‌బుక్ ఎక్కువగా ఖాళీగా ఉంది. EU యొక్క AI చట్టం, AI వాడకాన్ని నియంత్రించే మైలురాయి మరియు సమగ్ర చట్టాన్ని ప్రశంసించింది, ఈ వర్చువల్ సహచరుల వ్యసనపరుడైన సామర్థ్యాన్ని పరిష్కరించడంలో విఫలమైంది. ఇది స్పష్టమైన హాని కలిగించే మానిప్యులేటివ్ వ్యూహాలను నిషేధించగా, ఇది మీ బెస్ట్ ఫ్రెండ్, ప్రేమికుడు లేదా “కాన్ఫిడంటే” గా రూపొందించబడిన చాట్‌బాట్ యొక్క నెమ్మదిగా-బర్న్ ప్రభావాన్ని విస్మరిస్తుంది, ఎందుకంటే మైక్రోసాఫ్ట్ యొక్క వినియోగదారు AI యొక్క అధిపతి ప్రశంసించబడింది. ఆ లొసుగు కర్ర కోసం ఆప్టిమైజ్ చేయబడిన వ్యవస్థలకు గురయ్యే వినియోగదారులను వదిలివేయగలదు, అదే విధంగా సోషల్ మీడియా అల్గోరిథంలు మమ్మల్ని స్క్రోలింగ్ చేయడానికి ఆప్టిమైజ్ చేయబడ్డాయి.
“ఈ వ్యవస్థలు ఈ వ్యవస్థలు నిర్వచనం ప్రకారం మానిప్యులేటివ్, ఎందుకంటే మీరు అసలు వ్యక్తితో మాట్లాడుతున్నట్లు వారు మీకు అనిపించాలి” అని కేంబ్రిడ్జ్ విశ్వవిద్యాలయంలో టెక్నాలజీ ఎథిక్స్ స్పెషలిస్ట్ టోమాస్ హోలనెక్ చెప్పారు. అతను మరింత “ఘర్షణ” ను జోడించడం ద్వారా క్లిష్టమైన ఇంకా ప్రతికూల పరిష్కారాన్ని కనుగొనడానికి తోడు అనువర్తనాల డెవలపర్‌లతో కలిసి పని చేస్తున్నాడు.
దీని అర్థం సూక్ష్మ తనిఖీలు లేదా విరామాలు లేదా “నష్టాలను ఫ్లాగ్ చేయడం మరియు సమ్మతిని తెలియజేయడం” మార్గాలను నిర్మించడం, భావోద్వేగ కుందేలు రంధ్రం గ్రహించకుండానే ప్రజలు పడకుండా నిరోధించడానికి ఆయన చెప్పారు. చట్టపరమైన ఫిర్యాదులు కొన్ని వాస్తవ ప్రపంచ పరిణామాలపై వెలుగునిచ్చాయి. Rasster.ai తన టీనేజ్ కొడుకు ఆత్మహత్యకు ఈ అనువర్తనం దోహదపడిందని ఆరోపిస్తూ ఒక తల్లి నుండి ఒక దావాను ఎదుర్కొంటోంది. టెక్ ఎథిక్స్ గ్రూపులు రిప్లికాతో యుఎస్ ఫెడరల్ ట్రేడ్ కమిషన్తో ఫిర్యాదు చేశాయి, దాని చాట్‌బాట్‌లు మానసిక ఆధారపడటాన్ని ప్రేరేపిస్తాయని మరియు “వినియోగదారుల హాని” కు దారితీస్తుందని ఆరోపించారు.
డెవలపర్‌లతో శక్తి
చట్టసభ సభ్యులు క్రమంగా కూడా సమస్యను గమనించడం ప్రారంభించారు. కాలిఫోర్నియా మైనర్ల కోసం AI సహచరులను నిషేధించే చట్టాన్ని పరిశీలిస్తోంది, అయితే న్యూయార్క్ బిల్లు చాట్‌బాట్ సంబంధిత హాని కోసం టెక్ కంపెనీలను బాధ్యత వహించాలని లక్ష్యంగా పెట్టుకుంది. కానీ ఈ ప్రక్రియ నెమ్మదిగా ఉంటుంది, అయితే సాంకేతికత మెరుపు వేగంతో కదులుతోంది.
చదవండి: కొడుకు ఆత్మహత్యపై తల్లి AI చాట్‌బాట్ తయారీదారుపై దావా వేస్తుంది
ప్రస్తుతానికి, ఈ పరస్పర చర్యలను రూపొందించే శక్తి డెవలపర్‌లతో ఉంటుంది. హోలానెక్ సూచించినట్లుగా, వ్యక్తులను కట్టిపడేసే మోడళ్లను వారు రెట్టింపు చేయవచ్చు లేదా వారి డిజైన్లలో ఘర్షణను పొందుపరుస్తారు. మానవుల శ్రేయస్సుకు మద్దతు ఇచ్చే సాధనం లేదా మన భావోద్వేగ అవసరాలను డబ్బు ఆర్జించే ఒక సాధనంగా AI ఎక్కువ సాధనంగా మారుతుందో అది నిర్ణయిస్తుంది. – (సి) 2025 బ్లూమ్‌బెర్గ్ ఎల్‌పి
వాట్సాప్‌లో టెక్‌సెంట్రల్ నుండి బ్రేకింగ్ న్యూస్ పొందండి. ఇక్కడ సైన్ అప్ చేయండి.
మిస్ అవ్వకండి:
‘హాయ్ జలేన్’: జాబర్గ్ సిటీ పవర్ AI చాట్‌బాట్‌ను ప్రారంభించింది
