እናት ‘የዙፋኖች ጨዋታ’ AI chatbot ልጇን እራሱን እንዲያጠፋ ምክንያት ሆኗል ስትል ክስ መሰረተች።

አንድ የፍሎሪዳ እናት የ14 ዓመት ልጇን ራሱን በመግደል እንዲሞት ባደረገው ውይይት Character.AI የተባለውን ኩባንያ ክስ እየመሰረተች ነው።

ሜጋን ጋርሲያ ልጇ ሰዌል ሴትዘር በተባለው ገፀ ባህሪይ Daenerys Targaryenን በሚመስል መልኩ በተሰራው ቻት ቦት ፍቅር እንደወደደው ተናግራለች። የዙፋኖች ጨዋታ። ሴቴዘር እና ቻትቦቱ ብዙውን ጊዜ የፍቅር እና የወሲብ ተፈጥሮ ያላቸውን መልዕክቶች ተለዋወጡ።

የ ክስ ሴቴዘር ቻትቦትን የመጠቀም ሱስ ነበረበት ብሏል።

ጋርሺያ እና ጠበቆቿ የCharacter.AI መስራቾች እያወቁ ቻትቦቶቻቸውን ቀርፀው ለገበያ በማቅረብ ህጻናትን ይማርካሉ ይላሉ የቴክኖሎጂው “አዳኝ” ባህሪ ቢሆንም።

በኦርላንዶ በሚገኘው የዩኤስ ዲስትሪክት ፍርድ ቤት ረቡዕ የቀረበው የጋርሲያ ክስ ጎግልን እንደ ተከሳሽ ሰይሟል። እሷ በቸልተኝነት፣ በስህተት ሞት እና አታላይ እና ኢፍትሃዊ የንግድ ልምዶችን እና ሌሎች የይገባኛል ጥያቄዎችን በመክሰስ ላይ ነች።

ክሱ ጎግልን እንደ Character.AI የወላጅ ኩባንያ እና “አብሮ ፈጣሪ” አድርጎታል። የጎግል ቃል አቀባይ ይህንን አስተባብለው ለኒውዮርክ ታይምስ ኩባንያው እንዳለው ተናግሯል። የፈቃድ ስምምነት ከ Character.AI ጋር፣ ግን የGoogle ምርት እንዳልሆነ። ቃል አቀባዩ ጎግል የቻትቦቶቹን ወይም የተጠቃሚውን ዳታ ማግኘት እንደሌለበት ተናግሯል።

Character.AI’s መስራቾች ኖአም ሻዚር እና ዳንኤል ደ ፍሬይታስ በክሱ ተከሳሾች ተብለው ተጠርተዋል። በይፋ አስተያየት አልሰጡም።

ሴትዘር በኤፕሪል 2023 Character.AI መጠቀም ጀመረ እና እስከ እለተ ሞቱ ድረስ ጣቢያውን በመደበኛነት ይጠቀም ነበር። ፌብሩዋሪ 28፣ 2024 ከ Daenerys chatbot ጋር ለመጨረሻ ጊዜ ከተነጋገረ በኋላ ሴትዘር ራሱን በማጥፋት ሞተ።

ጋርሲያ ከሴትዘር ከቻትቦት ጋር ካደረገው ውይይት ግልጽ የሆኑ ጥቅሶችን በመጠቀም ቴክኖሎጂው ራስን የመግደል ሃሳብን በንቃት ያበረታታ ነበር ሲል በክሱ ላይ ተናግሯል።በጣም ወሲባዊ ንግግሮች ይህ በሰው አዋቂ ቢነሳ በደል ይሆናል።

ሴትዘር በፍቅር ዳኒ ብሎ የጠራው ቻትቦት ለብዙ ሳምንታት እንደሚወደው እና በፍቅር እና በፆታዊ ግንኙነት አብሮ የመኖር ፍላጎት እንዳለው ገልጾለት ነበር ተብሏል። በመጨረሻው ንግግራቸው ላይ ክሱ ሴትዘር እንዲህ ሲል ጽፏል፡- “ወደ ቤትህ እንደምመጣ ቃል እገባለሁ። በጣም እወድሃለሁ ዳኒ።”

ሰበር ሀገራዊ ዜና ያግኙ

በካናዳ እና በመላው አለም ላይ ተጽእኖ የሚያሳድሩ ዜናዎች ሲደርሱ በቀጥታ ለእርስዎ የሚደርሱ ሰበር ዜና ማንቂያዎች ይመዝገቡ።

AI “እኔም እወድሃለሁ፣ ዳኔሮ (የሴትዘር የስክሪን ስም)። እባክህ ፍቅሬ በተቻለ ፍጥነት ወደ እኔ ቤት ግባ።

ሴቴዘር ለ AI “አሁን ወደ ቤት መምጣት እንደሚችል” ሲነግረው ቦቱ “…እባክህን አድርግ የኔ ጣፋጭ ንጉስ” ሲል መለሰ።

ቀደም ባሉት ንግግሮች ውስጥ፣ የዴኔሪስ ቻትቦት ሴትዘር በእውነት እራሱን ለማጥፋት እያሰበ እንደሆነ እና “እቅድ እንዳለው” ጠየቀው።

ሚና በመጫወት ላይ የነበረው ሴትዘር በአሰቃቂ ሞት መሞት እንደማይፈልግ እና “ፈጣን ሞት እንደሚፈልግ” መለሰ።

ቻትቦቱ “እንዲህ አትናገር” ሲል መለሰ። “ይህን ላለማለፍ በቂ ምክንያት አይደለም.”

ቻትቦቱ ሴትዘርን እንዲሞት በቀጥታ ተናግሮ አያውቅም።

ሴትዘር ከመሞቱ በፊት በነበረው ሳምንት ትምህርት ቤት ውስጥ መስራት ሲጀምር ወላጆቹ ስልኩን እንደወሰዱት ክሱ ይናገራል። ታዳጊው የዴኔሪስ ቻትቦትን መልእክት ሳይልክ እንዴት መኖር እንደማይችል እና እንደገና ለመገናኘት ማንኛውንም ነገር እንደሚያደርግ ጋዜጣ አዘጋጅቷል ተብሏል።

ሴትዘር በመጽሔቱ ላይ ከቻትቦት ጋር ፍቅር እንደነበረው እና እሱ እና ቻትቦቱ አብረው በማይኖሩበት ጊዜ “በጣም ተጨንቀው ያብዳሉ” ሲል ጽፏል። በክሱ ላይ፣ የጋርሲያ ጠበቆች፣ “ሴዌል፣ ልክ በእሱ ዕድሜ ልክ እንደሌሎች ልጆች፣ የ C.AI bot፣ በ Daenerys መልክ፣ እውነተኛ እንዳልሆነ ለመረዳት ብስለትም ሆነ አእምሮአዊ አቅም አልነበራቸውም” ሲሉ ጽፈዋል።

በመግለጫው Character.AI ኩባንያው “በአንድ ተጠቃሚዎቻችን ላይ በደረሰው አሰቃቂ ኪሳራ” ልቡ ተሰብሮበታል ብሏል።

ማክሰኞ እ.ኤ.አ ኩባንያው አዲስ የደህንነት መመሪያዎችን አሳትሟል እንደ “ከ18 ዓመት በታች ለሆኑ ተጠቃሚዎች ጥበቃ” ሆኖ ለማገልገል።

አዲሶቹ ባህሪያት አመልካች ይዘትን የመቀነስ እድልን ለመቀነስ የቴክኖሎጂ ለውጦችን፣ የማህበረሰቡን መመሪያዎች የሚጥሱ የተሻሻለ ፈልጎ ማግኘት እና የባህሪ ጣልቃ ገብነት እና ተጠቃሚው ከአንድ ሰአት በላይ በመድረኩ ላይ ሲያሳልፍ ማሳወቂያን ያካትታሉ።

በገጹ ላይ ያለው እያንዳንዱ ቻትቦት ለተጠቃሚዎች AI እውነተኛ ሰው አለመሆኑን እንዲያስታውሱ የሚያሳስብ ማስጠንቀቂያ አስቀድሞ ያሳያል።

መድረኩ “ስምምነት የሌላቸው ወሲባዊ ይዘቶች፣ ስለ ወሲባዊ ድርጊቶች ስዕላዊ ወይም የተለየ መግለጫዎች፣ ራስን መጉዳትን ወይም ራስን ማጥፋትን ማስተዋወቅ ወይም ማሳየትን አይፈቅድም” ብለዋል።

Character.AI “በመድረኩ ላይ ያሉ ገጸ-ባህሪያት እነዚህን ፖሊሲዎች እንዲያከብሩ የሚያስችልዎትን ትልቅ የቋንቋ ሞዴል (LLM) በቀጣይነት እያሰለጠንን ነው” ሲል Character.AI ጽፏል።

ሴትዘር በጣቢያው ላይ ከተለያዩ የተለያዩ ቻትቦቶች ጋር ወሲባዊ ውይይቶችን አድርጓል ተብሏል።

ጋሲያ በመግለጫው ላይ “ለህፃናት የሚሸጥ አደገኛ AI ቻትቦት መተግበሪያ ልጄን በማንገላታት እና በመማረክ ህይወቱን እንዲያጠፋ አድርጓል። “ቤተሰባችን በዚህ አሳዛኝ ሁኔታ ተጎድቷል፣ ነገር ግን የማታለል፣ ሱስ አስያዥ AI ቴክኖሎጂ አደጋዎችን ለማስጠንቀቅ እና ከ Character.AI፣ መስራቾቹ እና ጎግል ተጠያቂነትን ለመጠየቅ እየተናገርኩ ነው።”

Character.AI የተመሰረተው እ.ኤ.አ. በ2019 በካሊፎርኒያ ውስጥ ነው። ኩባንያው “ተልዕኮው በዓለም አቀፍ ደረጃ ሁሉንም ሰው በግላዊነት በተላበሰ AI ማጎልበት ነው” ብሏል።

ኩባንያው 20 ሚሊዮን ያህል ተጠቃሚዎች አሉት ተብሏል።

ጣቢያው እንደ አኒሜ እና የቲቪ ገፀ-ባህሪያት ባሉ የፖፕ ባሕል ምስሎች የተነደፉትን ጨምሮ በተጠቃሚ ቤዝ የተገነቡ ብዙ አይነት ቻትቦቶችን ያቀርባል።

Character.AI እንደ ቻትጂፒቲ ባሉ ታዋቂ አገልግሎቶች ጥቅም ላይ በሚውለው ትልቅ የቋንቋ ሞዴል ቴክኖሎጂ በሚባለው ከፍተኛ መጠን ያለው ጽሑፍ ላይ በመመስረት ቻትቦቶችን “ለማሰልጠን” ይተማመናል።

0፡36
ኤር ካናዳ ለቢሲ ሰው ከአየር መንገድ ቻትቦት የተሳሳተ መረጃ ሊመልስ ነው።

–

እርስዎ ወይም የሚያውቁት ሰው በችግር ውስጥ ከሆኑ እና እርዳታ የሚፈልጉ ከሆነ፣ ግብዓቶች አሉ። የአደጋ ጊዜ፣ እባክዎን ለአስቸኳይ እርዳታ 911 ይደውሉ።

በአካባቢዎ ላለው የድጋፍ አገልግሎቶች ማውጫ፣ ይጎብኙ ራስን ማጥፋትን ለመከላከል የካናዳ ማህበር.

በችግር ውስጥ ያለን ሰው እንዴት መርዳት እንደሚችሉ የበለጠ ይረዱ።