హత్య బాధితుల క్లిప్‌లను అరికట్టడానికి జేమ్స్ బుల్గర్ యొక్క మమ్ AI చట్టాన్ని కోరుతుంది

హత్య చేయబడిన పసిపిల్లల తల్లి జేమ్స్ బుల్గర్ పిల్లల హత్య బాధితుల యొక్క AI- ఉత్పత్తి చేసిన వీడియోలపై అతుక్కొని ఉండటానికి కొత్త చట్టాన్ని ఆమోదించాలని ప్రభుత్వాన్ని కోరారు.

తన రెండేళ్ల కొడుకు యొక్క డిజిటల్ క్లోన్లను చూపించే వీడియోలను తీసివేయమని చేసిన అభ్యర్థనలపై టిక్టోక్ స్పందించలేదని డెనిస్ ఫెర్గస్ చెప్పారు.

ఇప్పటికే ఉన్న చట్టం, ఆన్‌లైన్ భద్రతా చట్టం ప్రకారం ఇలాంటి వీడియోలను చట్టవిరుద్ధంగా భావిస్తున్నారని మరియు ప్లాట్‌ఫారమ్‌ల ద్వారా తొలగించాలని ప్రభుత్వం తెలిపింది.

బిబిసి హైలైట్ చేసిన AI వీడియోలు తన నిబంధనలను ఉల్లంఘించినందుకు తొలగించబడిందని టిక్టోక్ చెప్పారు.

ఒక టిక్టోక్ ప్రతినిధి మాట్లాడుతూ: “మా ప్లాట్‌ఫామ్‌లో హానికరమైన AI- సృష్టించిన కంటెంట్‌ను మేము అనుమతించము మరియు ఈ నియమాలను మాకు నివేదించే ముందు ఈ నియమాలను ఉల్లంఘించే 96% కంటెంట్‌ను మేము ముందుగానే కనుగొన్నాము.”

BBC యూట్యూబ్ మరియు ఇన్‌స్టాగ్రామ్‌లో ఇలాంటి వీడియోలను కనుగొంది మరియు ఆ ప్లాట్‌ఫారమ్‌లు వారి నిబంధనలను ఉల్లంఘించినందుకు కంటెంట్ తీసివేయబడిందని చెప్పారు.

Ms ఫెర్గస్ బిబిసికి మాట్లాడుతూ, హానికరమైన కంటెంట్‌ను తొలగించడానికి మరియు అటువంటి ప్రయోజనాల కోసం AI ఉపయోగించబడకుండా నిరోధించడానికి ప్లాట్‌ఫారమ్‌లను బలవంతం చేయడానికి ఇప్పటికే ఉన్న చట్టాలు చాలా దూరం వెళ్ళలేదని ఆమె భావించింది.

“ఇది ప్రస్తుతానికి కేవలం పదాలు,” Ms ఫెర్గస్ చెప్పారు. “వారు దానిపై నటించాలి.”

Ms ఫెర్గస్ తన కొడుకును వర్ణించే AI వీడియోలు “పూర్తిగా అసహ్యకరమైనవి” అని మరియు వాటిని సోషల్ మీడియాలో పోస్ట్ చేసేవారు “వారు ప్రజలను ఎంతగా బాధపెడుతున్నారో అర్థం కాలేదు” అని అన్నారు.

ఆమె ఇలా చెప్పింది: “ఇది మీ మనస్సులో ఆడుతుంది, ఇది మీరు దూరంగా ఉండలేని విషయం. మీరు ఆ చిత్రాన్ని చూసినప్పుడు, అది మీతోనే ఉంటుంది.”

ఎంఎస్ ఫెర్గస్ ఆమె గురువారం జస్టిస్ సెక్రటరీ షబానా మహమూద్‌తో సమావేశం చేసిందని, ఈ సమస్యను లేవనెత్తాలని భావిస్తున్నట్లు చెప్పారు.

1993 లో ఇద్దరు పదేళ్ల బాలురు, జోన్ వెనెబుల్స్ మరియు రాబర్ట్ థాంప్సన్ చేత అపహరించబడినప్పుడు జేమ్స్ బుల్గర్ మెర్సీసైడ్ షాపింగ్ సెంటర్‌లో తన మమ్‌తో బయలుదేరాడు.

వెనిబుల్స్ మరియు థాంప్సన్ పసిబిడ్డను రెండున్నర మైళ్ళ దూరంలో రైల్వే ట్రాక్‌కు నడిపించారు, అక్కడ వారు అతనిని హింసించి అతనిని కొట్టారు.

జేమ్స్ మృతదేహం రెండు రోజుల తరువాత రైల్వే లైన్‌లో కనుగొనబడింది.

థాంప్సన్ మరియు వెనెబుల్స్ జేమ్స్‌ను చంపినందుకు దోషిగా తేలింది, ఆధునిక బ్రిటిష్ చరిత్రలో వారిని అతి పిన్న వయస్కుడైన హంతకులుగా మార్చారు.

సోషల్ మీడియాలో AI వీడియోలు యానిమేటెడ్ చైల్డ్ అవతార్స్ షో మొదటి వ్యక్తిలో జేమ్స్ హత్య యొక్క కథను చెబుతున్నాయి.

నేరం మరియు హత్యల గురించి కంటెంట్‌ను పోస్ట్ చేసే ఖాతాల ద్వారా భాగస్వామ్యం చేసిన బహుళ సారూప్య వీడియోలను బిబిసి కనుగొంది, స్పష్టంగా క్లిక్‌లు మరియు డబ్బు ఆర్జన కోసం.

కొన్ని ఖాతాలు ప్రతి వీడియోలో ఒకే ఆకృతిని అనుసరిస్తాయి, ప్రపంచవ్యాప్తంగా వేర్వేరు హత్య బాధితులను అనుకరించడానికి AI అవతార్లను ఉపయోగించి.

ప్లాట్‌ఫాం యొక్క మార్గదర్శకాలు “మరణించిన వారి మరణాన్ని వివరించే వ్యక్తులను వాస్తవికంగా అనుకరించే కంటెంట్‌ను నిషేధించాయి” అని యూట్యూబ్ ప్రతినిధి చెప్పారు.

“ఈ విధానం యొక్క తీవ్రమైన ఉల్లంఘనల” కోసం దాచిన కథలు అనే ఛానెల్ ముగించబడిందని ప్రతినిధి చెప్పారు.

Ms ఫెర్గస్ ఇలా అన్నాడు: “మేము సోషల్ మీడియాలో వెళ్తాము మరియు మాతో లేని వ్యక్తి అక్కడ ఉన్నాడు, మాతో మాట్లాడటం. అది ఎంత అనారోగ్యంతో ఉంది?

“ఇది కేవలం అవినీతిపరులు. ఇది విచిత్రమైనది మరియు అది చేయకూడదు.”

ఈ వీడియోలను పోస్ట్ చేసే వినియోగదారులను కమ్యూనికేషన్స్ చట్టం ప్రకారం అశ్లీలమైన లేదా స్థూల సామగ్రికి సంబంధించిన పబ్లిక్ ఆర్డర్ నేరాల కోసం విచారణ చేయవచ్చని ప్రభుత్వ వర్గాలు తెలిపాయి.

ప్రభుత్వ ప్రతినిధి మాట్లాడుతూ: “ఈ కలతపెట్టే ప్రయోజనాల కోసం సాంకేతికతను ఉపయోగించడం నీచమైనది.

“ఈ ప్రభుత్వం ఆన్‌లైన్ భద్రతా చట్టం పంపిణీ చేయడం ద్వారా బలమైన చర్య తీసుకుంటుంది, దీని కింద ఇలాంటి వీడియోలు చట్టవిరుద్ధమైన కంటెంట్‌గా పరిగణించబడతాయి, ఇక్కడ నేరం జరిగింది మరియు ప్లాట్‌ఫారమ్‌ల ద్వారా వేగంగా తొలగించబడాలి.

“దేశవ్యాప్తంగా తల్లిదండ్రుల మాదిరిగానే ఈ చట్టాలు సురక్షితమైన ఆన్‌లైన్ ప్రపంచాన్ని సృష్టించడానికి సహాయపడతాయని మేము ఆశిస్తున్నాము.

“కానీ మా పిల్లలను రక్షించడానికి మేము మరింత ముందుకు వెళ్ళడానికి వెనుకాడము; ఆన్‌లైన్‌లో పిల్లల భద్రత విషయానికి వస్తే అవి పునాది కాదు.”

2023 లో, మునుపటి కన్జర్వేటివ్ ప్రభుత్వం ఆన్‌లైన్ భద్రతా చట్టాన్ని ఆమోదించిందిఇది సోషల్ మీడియా సంస్థలు మరియు సెర్చ్ ఇంజన్లు UK లోని పిల్లలు మరియు పెద్దలను చట్టవిరుద్ధమైన, హానికరమైన పదార్థాల నుండి రక్షించడం లక్ష్యంగా పెట్టుకుంది.

ఆఫ్‌కామ్ అనేది చట్టాన్ని అమలు చేసే రెగ్యులేటర్ మరియు ఆన్‌లైన్‌లో ప్రజలను రక్షించడానికి ప్లాట్‌ఫారమ్‌లు తమ విధులను ఎలా తీర్చగలవు అనే దానిపై మార్గదర్శకత్వం ప్రచురిస్తున్నాయి.

రెగ్యులేటర్‌లో తమ విధులను పాటించని సంస్థలపై చర్యలు తీసుకునే అధికారాలు ఉన్నాయి, కాని ఇది వ్యక్తిగత కంటెంట్‌ను తీసివేయడానికి ప్లాట్‌ఫారమ్‌లను బలవంతం చేయదు.

హానికరమైన AI- సృష్టించిన కంటెంట్‌కు వ్యతిరేకంగా నిర్దిష్ట రక్షణలను చేర్చడానికి ఆన్‌లైన్ భద్రతా చట్టాన్ని ప్రభుత్వం సవరించవచ్చని జేమ్స్ బుల్గర్ మెమోరియల్ ట్రస్ట్ చైర్‌మెన్ కిమ్ మోరిస్ అన్నారు.

సింథటిక్ మీడియా మరియు AI దుర్వినియోగాన్ని కవర్ చేసే కొత్త చట్టాన్ని ప్రభుత్వం ఆమోదించాల్సిన అవసరం ఉందని ఆమె అన్నారు.

“ఈ సాంకేతిక పరిజ్ఞానాన్ని దోపిడీ చేసేవారికి హాని కలిగించే స్పష్టమైన నిర్వచనాలు, జవాబుదారీతనం చర్యలు మరియు చట్టపరమైన పరిణామాలు ఉండాలి – ప్రత్యేకించి ఇది నిజమైన బాధితులు మరియు వారి కుటుంబాలను కలిగి ఉన్నప్పుడు” అని Ms మోరిస్ చెప్పారు.

“ఇది సెన్సార్‌షిప్ గురించి కాదు – ఇది భయంకరమైన నేరాల వల్ల ప్రత్యక్షంగా ప్రభావితమైన వారి గౌరవం, సత్యం మరియు భావోద్వేగ శ్రేయస్సును రక్షించడం గురించి.”

సోషల్ మీడియా సంస్థలను ఆన్‌లైన్ భద్రతా చట్టంలో కొన్ని “చట్టబద్దమైన-బట్-హానికర” కంటెంట్‌ను తొలగించమని బలవంతం చేసే చర్యలను చేర్చడానికి ప్రణాళికలు ఉన్నాయి.

కానీ ప్రతిపాదనలు సెన్సార్‌షిప్ ఆందోళనలపై రద్దు చేయబడ్డాయి.

ఆన్‌లైన్ భద్రతా ప్రచారకులు చట్టంలో లొసుగులను మూసివేయడానికి అవసరమైన హానికరమైన కంటెంట్‌ను తొలగించడం చుట్టూ ఉన్న నియమాలను వాదించారు.

ఈ ఏడాది జనవరిలో, టెక్నాలజీ కార్యదర్శి పీటర్ కైల్ బిబిసికి చెప్పారు అతను ఆన్‌లైన్ భద్రతా చట్టంలో “అసంతృప్తికరమైన శాసనసభ పరిష్కారాన్ని వారసత్వంగా పొందాడు”.

“నేను చాలా ఓపెన్ మైండెడ్ మరియు నేను బహిరంగంగా చెప్పాను, మేము మళ్ళీ భవిష్యత్తులో చట్టబద్ధం చేయవలసి ఉంటుందని నేను భావిస్తున్నాను” అని కైల్ చెప్పారు.

ఆన్‌లైన్‌లో సృష్టించిన మరియు పోస్ట్ చేసిన AI కంటెంట్‌పై దృష్టి సారించిన కొత్త చట్టాన్ని ఆమోదించడానికి ఈ సమయంలో ప్రభుత్వానికి ప్రణాళికలు లేవని బిబిసి అర్థం చేసుకుంది.

ఈ ఏడాది చివర్లో అత్యాధునిక AI మోడళ్ల నియంత్రణకు పరిమితం చేయబడిన ఇరుకైన AI బిల్లును మంత్రులు లక్ష్యంగా పెట్టుకున్నారని ప్రభుత్వ వర్గాలు తెలిపాయి.

చైల్డ్ హత్య బాధితుల AI వీడియోలు ఇప్పటికే ఉన్న చట్టాలను ఉల్లంఘించినట్లు కనిపించినట్లు సెన్సార్‌షిప్‌పై ఇండెక్స్ చీఫ్ ఎగ్జిక్యూటివ్ ఆఫీసర్ జెమిమా స్టెయిన్‌ఫెల్డ్ అన్నారు.

AI కంటెంట్‌ను పరిమితం చేయడానికి ఆన్‌లైన్ భద్రతా చట్టాన్ని సవరించడం “చట్టబద్ధమైన వీడియోలు అందులో చిక్కుకునే ప్రమాదాన్ని అమలు చేస్తాయని ఆమె అన్నారు.

“ఇది ఇప్పటికే చట్టవిరుద్ధం అయితే, మాకు ఇక్కడ నియంత్రణ అవసరం లేదు” అని ఆమె చెప్పింది.

Ms స్టెయిన్‌ఫెల్డ్ మాట్లాడుతూ, “ఈ భయంకరమైన పెట్టెలో ప్రతిదీ ఉంచే మోకాలి-కుదుపు ప్రతిచర్యను నివారించాల్సిన అవసరం ఉంది” అని, జేమ్స్ బుల్గర్ యొక్క మమ్ పట్ల ఆమెకు సానుభూతి ఉంది.

“టెక్ మెరుగుపడుతున్నప్పుడు, ఆమె మళ్లీ మళ్లీ మళ్లీ పునరుద్ధరించడానికి, అది ఎలా ఉంటుందో నేను imagine హించలేను” అని ఆమె చెప్పింది.

ఒక ప్లాట్‌ఫామ్‌కు కంటెంట్ నివేదించబడినప్పుడు, “ఇది UK చట్టాన్ని ఉల్లంఘిస్తుందో లేదో నిర్ణయించుకోవాలి, అలా అయితే, దానితో తగిన విధంగా వ్యవహరించాలి” అని ఆఫ్‌కామ్ ప్రతినిధి చెప్పారు.

“మేము ప్రస్తుతం ఈ కొత్త విధులకు ప్లాట్‌ఫారమ్‌ల సమ్మతిని అంచనా వేస్తున్నాము మరియు UK వినియోగదారులను చట్టవిరుద్ధమైన కంటెంట్ నుండి రక్షించడానికి తగిన చర్యలను ప్రవేశపెట్టడంలో విఫలమైన వారు అమలు చర్యలను ఎదుర్కోవచ్చు” అని ప్రతినిధి చెప్పారు.