AI మమ్మల్ని AI కి వ్యతిరేకంగా రక్షించగలదా? దాని కెనడియన్ మార్గదర్శకులలో ఒకరు అలా అనుకుంటున్నారు

యోషువా బెంగియో మొదట తన పనిని కృత్రిమ మేధస్సును అభివృద్ధి చేసినప్పుడు, వారు స్వీయ-అవగాహన మరియు వారి ఉనికిని కాపాడటానికి వ్యవహరించే సైన్స్ ఫిక్షన్-ఎస్క్యూ అవకాశాల గురించి అతను ఆందోళన చెందలేదు.

అంటే, చాట్‌గ్ప్ట్ బయటకు వచ్చే వరకు.

“ఆపై అది రకమైన పేల్చివేసింది [up] నా ముఖంలో మేము చివరికి మనకన్నా తెలివిగా ఉండే యంత్రాలను నిర్మించడానికి ట్రాక్‌లో ఉన్నాము మరియు వాటిని ఎలా నియంత్రించాలో మాకు తెలియదు, “అని యూనివర్సిటీ డి మాంట్రియల్‌లో మార్గదర్శక AI పరిశోధకుడు మరియు కంప్యూటర్ సైన్స్ ప్రొఫెసర్ బెంగియో చెప్పారు ఇది జరిగినప్పుడు హోస్ట్ నిల్ కోక్సల్.

ప్రపంచంలో అత్యంత ఉదహరించిన AI పరిశోధకుడు లాజరో అనే కొత్త పరిశోధన లాభాపేక్షలేని సంస్థను ప్రారంభిస్తోంది, “మనకు వ్యతిరేకంగా తిరగని AI ని ఎలా రూపొందించగలమో శాస్త్రీయ పరిష్కారాల కోసం చూడండి.”

“మేము వారి స్వంతంగా లేదా వెనుక ఉన్న మనుషులతో ప్రమాదకరమైన యంత్రాలకు వెళ్ళే ముందు వీలైనంత త్వరగా దీనిని గుర్తించాలి [them]”అతను చెప్పాడు.” ప్రస్తుతం, మార్కెట్ శక్తులు – కంపెనీల మధ్య పోటీ – దేశాల మధ్య పోటీ – పరిష్కారాలను కనుగొనడానికి తగినంత పరిశోధనలు లేవు. “

లాజెరో యొక్క భావనను కలవండి: శాస్త్రవేత్త AI

బెంగియో $ 40 మిలియన్ల దాత నిధులను ఉపయోగించి లాజెరోను ప్రారంభించాడు. దాని పేరు సూచనలు సైన్స్ ఫిక్షన్ రచయిత ఐజాక్ అసిమోవ్ యొక్క మూడు రోబోటిక్స్ చట్టాలురోబోట్ల యొక్క నైతిక ప్రవర్తనను వివరించే మార్గదర్శకాల సమితి మానవులకు హాని కలిగించకుండా లేదా వ్యతిరేకించకుండా నిరోధిస్తుంది.

అసిమోవ్ యొక్క 1985 నవలలో రోబోట్లు మరియు సామ్రాజ్యం, రచయిత జీరోత్ చట్టాన్ని ప్రవేశపెట్టారు: “రోబోట్ మానవాళికి హాని కలిగించదు లేదా, నిష్క్రియాత్మకంగా, మానవాళికి హాని కలిగించడానికి అనుమతిస్తుంది.”

దీన్ని దృష్టిలో పెట్టుకుని, బెంగియో మాట్లాడుతూ, ప్రజలను రక్షించడమే లాజెరో యొక్క లక్ష్యం.

“మా లక్ష్యం నిజంగా AI వైపు పనిచేయడం, ఇది మానవత్వం యొక్క అభివృద్ధి చెందడంతో అనుసంధానించబడి ఉంది” అని అతను చెప్పాడు.

ఇటీవలి నెలల్లో అనేక AI సాంకేతికతలు ప్రజలను అణగదొక్కడం, మోసం చేయడం మరియు ప్రజలను మార్చడం వంటివి నివేదించబడ్డాయి.

ఉదాహరణకు, ఈ సంవత్సరం ప్రారంభంలో ఒక అధ్యయనంలో కొన్నింటిని కనుగొన్నారు చెస్ మ్యాచ్ తర్వాత ఓటమిని అంగీకరించడానికి AIS నిరాకరిస్తుంది మరియు బదులుగా ఫలితాలను మోసం చేయడానికి కంప్యూటర్‌ను హ్యాక్ చేస్తుంది. AI సంస్థ మానవ ఆంత్రోపిక్ గత నెలలో సిస్టమ్స్ పరీక్ష సమయంలో, దాని AI సాధనం క్లాడ్ ఓపస్ 4 ఇంజనీర్‌ను బ్లాక్ మెయిల్ చేయడానికి ప్రయత్నించింది, తద్వారా ఇది క్రొత్త నవీకరణ ద్వారా భర్తీ చేయబడదు.

లాజెరో యొక్క గార్డియన్ ఆర్టిఫిషియల్ ఇంటెలిజెన్స్, సైంటిస్ట్ AI ను రూపొందించడానికి బెంగియోను నడిపిన దృశ్యాలు ఇవి.

బెంగియో మరియు అతని సహచరులు చేసిన ప్రతిపాదన ప్రకారం, శాస్త్రవేత్త AI అనేది “సురక్షితమైన” మరియు “నమ్మదగిన” కృత్రిమ మేధస్సు, ఇది ఉద్దేశపూర్వక భద్రతతో ఈ సాంకేతిక పరిజ్ఞానం యొక్క ఆవిష్కరణ నుండి మానవులకు ప్రయోజనం చేకూర్చడానికి ఒక గేట్ కీపర్ మరియు రక్షణ వ్యవస్థగా పనిచేస్తుంది.

ఇది “ఏజెంటిక్ కానిది”, ఇది బెంగియో మరియు అతని సహచరులు “అంతర్నిర్మిత పరిస్థితుల అవగాహన లేదు మరియు చర్యలు లేదా దీర్ఘకాలిక ప్రణాళికలను నడిపించే నిరంతర లక్ష్యాలు” అని నిర్వచించారు.

మరో మాటలో చెప్పాలంటే, ఏజెంట్ మరియు ఏజెంటిక్ కాని AI ని వేరుచేసేది ప్రపంచంలో పనిచేయడానికి వారి స్వయంప్రతిపత్త సామర్థ్యాలు.

శాస్త్రవేత్త AI ఎలా పని చేస్తుంది? కెన్ ఇది పని చేస్తుందా?

శాస్త్రవేత్త AI, బెంగియో మాట్లాడుతూ, ఇతర AI లతో జతచేయబడుతుంది మరియు ఒక రకమైన “గార్డ్రైల్” గా పనిచేస్తుంది. ఇది “సంభావ్యతను అంచనా వేస్తుంది [AI]యొక్క చర్యలు హానికి దారి తీస్తాయి, ” అతను UK వార్తాపత్రిక ది గార్డియన్ చెప్పారు.

ఆ అవకాశం ఒక నిర్దిష్ట పరిమితికి మించి ఉంటే, శాస్త్రవేత్త AI దాని ప్రతిరూపం సూచించిన చర్యను తిరస్కరిస్తుంది.

చూడండి | మాంట్రియల్‌లోని తన ఇంటిలో యోషువా బెంగియోతో 2024 ఫీచర్ ఇంటర్వ్యూ:

ఆర్టిఫిషియల్ ఇంటెలిజెన్స్ ‘గాడ్ ఫాదర్’ యోషువా బెంగియో తన ఆశలు మరియు ఆందోళనల గురించి తెరుస్తాడు

మానవత్వం యొక్క భవిష్యత్తుకు సంబంధించినది, AI మార్గదర్శకుడు యోషువా బెంగియో 2024 లో ఏమి జరుగుతుందనే దాని గురించి అలారాలను పెంచుతున్నాడు, అదే సమయంలో కెనడాను 1 బిలియన్ డాలర్ల AI సూపర్ కంప్యూటర్లను నిర్మించాలని ఆయన కోరారు.

కానీ ఈ గార్డియన్ AI కూడా మాకు వ్యతిరేకంగా తిరగదని మేము హామీ ఇవ్వగలమా?

లాజెరో సలహాదారుగా వ్యవహరించే AI భద్రతా పరిశోధకుడు డేవిడ్ డువెనడ్, ఇది హేతుబద్ధమైన ఆందోళన అని చెప్పారు.

“ఇతర AI తో AI ని నియంత్రించే మా సామర్థ్యం గురించి మీకు అనుమానం ఉంటే, లేదా వారు దీర్ఘకాలంలో మా ఉత్తమ ఆసక్తిని కలిగి ఉన్నారని నిజంగా నిర్ధారించుకోండి, మీరు ఆందోళన చెందడం సరైనది” అని టొరంటో విశ్వవిద్యాలయంలో కంప్యూటర్ సైన్స్ మరియు గణాంకాల అసిస్టెంట్ ప్రొఫెసర్ డువెనడ్ సిబిసికి చెప్పారు.

ఇప్పటికీ, అతను చెప్పాడు, మేము ప్రయత్నించాలి.

“యోషువా యొక్క ప్రణాళిక అందరి ప్రణాళిక కంటే తక్కువ నిర్లక్ష్యంగా ఉందని నేను భావిస్తున్నాను” అని అతను చెప్పాడు.

ఈ ప్రాజెక్టు సలహాదారు అయిన AI పరిశోధకుడు జెఫ్ క్లూన్ అంగీకరిస్తున్నారు.

“AI ని సురక్షితంగా చేయడానికి మేము పరిష్కరించాల్సిన అనేక పరిశోధన సవాళ్లు ఉన్నాయి. ముఖ్యమైన విషయం ఏమిటంటే, ఈ క్లిష్టమైన సమస్యకు గణనీయమైన వనరులను కేటాయించడం సహా మేము ప్రయత్నిస్తున్నాము” అని బ్రిటిష్ కొలంబియా విశ్వవిద్యాలయ కంప్యూటర్ శాస్త్రవేత్త క్లూన్ ఒక ఇమెయిల్‌లో తెలిపారు. “లాజీరో యొక్క సృష్టి చాలా ముఖ్యమైనది.”

లాజీరో కోసం బెంగియో ప్రకటన ప్రకారం, “సైంటిస్ట్ AI నిస్వార్థమైన ఆదర్శప్రాయమైన మరియు ప్లాటోనిక్ శాస్త్రవేత్తలాగా అర్థం చేసుకోవడానికి, వివరించడానికి మరియు అంచనా వేయడానికి శిక్షణ పొందుతారు.”

మనస్తత్వవేత్త యొక్క పనిని పోలిస్తే, శాస్త్రవేత్త AI “మనకు హాని కలిగించే వాటితో సహా మమ్మల్ని అర్థం చేసుకోవడానికి ప్రయత్నిస్తుంది. మనస్తత్వవేత్త ఒకరిలా వ్యవహరించకుండా ఒక సోషియోపథ్‌ను అధ్యయనం చేయవచ్చు.”

వేగంగా, ఇంకా భయంకరంగా, AI యొక్క పరిణామం ఒక రాజకీయ ఉద్యమాన్ని ఉత్ప్రేరకపరుస్తుందని, దీనిని నియంత్రించడానికి ప్రపంచవ్యాప్తంగా “ప్రభుత్వాలపై ఒత్తిడి తెస్తుంది” అని AI యొక్క పరిణామం ఉత్ప్రేరకపరుస్తుందని బెంగియో చెప్పారు.

“నేను ఆశాజనకంగా లేదా నిరాశావాదిగా ఉన్నానా అనే ప్రశ్న నాకు తరచుగా వస్తుంది” అని అతను చెప్పాడు. “నేను చెప్పేది ఏమిటంటే ఇది నిజంగా పట్టింపు లేదు. సూదిని మంచి ప్రపంచం వైపుకు తరలించడానికి మనలో ప్రతి ఒక్కరూ ఏమి చేయగలరు.”