మా ఇటీవలి ఇంటర్వ్యూలో, ఆంత్రోపిక్ CEO డారియో అమోడీ మాట్లాడుతూ, మేము కదిలించలేమని అరెస్టు చేస్తున్నారు: ప్రతి ఒక్కరూ AI ఆశావాదులు మరియు డూమర్లు అతిశయోక్తి అని umes హిస్తారు. కానీ ఎవరూ అడగరు:
- “సరే, వారు సరిగ్గా ఉంటే?”
ఇది ఎందుకు ముఖ్యమైనది: మేము ఈ ప్రశ్నను చాలా విపరీతమైన AI దావాలాగా వర్తింపజేయాలని అనుకున్నాము – రాబోయే సంవత్సరాల్లో, పెద్ద భాషా నమూనాలు మానవ మేధస్సును మించి, మన నియంత్రణకు మించి పనిచేయగలవు, మానవ ఉనికిని బెదిరిస్తాయి.
అది బహుశా మిమ్మల్ని తాకింది సైన్స్-ఫిక్షన్ హైప్.
- కానీ ఆక్సియోస్ పరిశోధనలో కనీసం 10 మంది సాంకేతిక పరిజ్ఞానం యొక్క శక్తి గురించి తీవ్రమైన ఆందోళనలపై అతిపెద్ద AI కంపెనీలను విడిచిపెట్టారని, మానవత్వాన్ని తుడిచిపెట్టే సామర్థ్యంతో సహా. ఇది ఒకటి లేదా ఇద్దరు వ్యక్తులు అయితే, కేసులు నట్టి అవుట్‌లెర్స్ అని కొట్టిపారేయడం సులభం. కానీ అనేక అగ్రశ్రేణి కంపెనీలలో అనేక అగ్రశ్రేణి కార్యనిర్వాహకులు, అన్నీ ఇలాంటి హెచ్చరికలతో? ఆశ్చర్యపోతున్నట్లు అనిపిస్తుంది: సరే, వారు సరిగ్గా ఉంటే?
- మరియు దీన్ని పొందండి: AI ts త్సాహికులు లేదా ఆశావాదులు అయిన ఎక్కువ మంది ఇదే విషయాన్ని వాదించారు. వారు కూడా, ఒక సాంకేతిక పరిజ్ఞానం మనుషుల వలె ఆలోచించడం మొదలుపెడతారు, మరియు కొన్ని సంవత్సరాలు మోడళ్లను imagine హించుకోండి, ఇప్పటి నుండి మనలాగే వ్యవహరించడం ప్రారంభించింది – లేదా మనకు మించినది. ఎలోన్ మస్క్ రిస్క్ ఇచ్చింది 20% ఎక్కువ AI ప్రపంచాన్ని నాశనం చేయగలదు. సరే, అతను సరైనది అయితే?
ఇది ఎలా పనిచేస్తుంది: విమర్శకులు మరియు ఆశావాదులు పంచుకునే పదం ఉంది: పి (డూమ్). సూపర్ ఇంటెలిజెంట్ AI మానవాళిని నాశనం చేసే సంభావ్యత దీని అర్థం. కాబట్టి మస్క్ పి (డూమ్) ను 20%వరకు ఉంచుతుంది.
- A ఇటీవలి పోడ్కాస్ట్ లెక్స్ ఫ్రిడ్మాన్ తో, గూగుల్ సీఈఓ సుందర్ పిచాయ్, AI ఆర్కిటెక్ట్ మరియు ఆప్టిమిస్ట్: “నేను పి (డూమ్) దృశ్యాలపై ఆశాజనకంగా ఉన్నాను, కానీ … అంతర్లీన ప్రమాదం వాస్తవానికి చాలా ఎక్కువ.” కానీ పిచాయ్ వాదించాడు, అది ఎంత ఎక్కువ అవుతుందని, విపత్తును నివారించడానికి మానవత్వం ర్యాలీ చేసే అవకాశం ఉంది. తన పి (డూమ్) సుమారు 10%అని ఫ్రిడ్మాన్, తన స్వయంగా శాస్త్రవేత్త మరియు AI పరిశోధకుడు అన్నారు.
అమోడీ రికార్డులో ఉంది మస్క్ యొక్క అదే పరిసరాల్లో పెగ్గింగ్ పి (డూమ్): 10-25%.
- ఆపు మరియు నానబెట్టండి: AI యొక్క తయారీదారులు, వీరందరికీ ఇది వాస్తవానికి ఎలా పనిచేస్తుందో ఖచ్చితత్వంతో తెలియదని అంగీకరిస్తారు, 10 లో 1 చూడండి, 5 లో 1, 5 లో 1, అది మన జాతులను తుడిచివేస్తుంది. మీరు ఆ అసమానత వద్ద విమానంలో చేరుకుంటారా? మీరు ఒక విమానం నిర్మించి, ఇతరులను ఆ అసమానతతో అనుమతిస్తారా?
- వన్స్ అపాన్ ఎ టైమ్, ఈ డూమ్స్డే దృష్టాంతంలో ఫాంటసీ సినిమాల ప్రావిన్స్. ఇప్పుడు, గూగుల్ మరియు ఓపెనాయ్ మరియు మెటా వంటి జెయింట్స్ వద్ద పెద్ద భాషా నమూనాలను (ఎల్‌ఎల్‌ఎంలు) నిర్మించే వారిలో ఇది ఒక సాధారణ చర్చ. కొంతమందికి, మోడల్స్ మంచిగా లభిస్తే, ఈ అద్భుత భయం మరింత వాస్తవికంగా అనిపిస్తుంది.
ఇక్కడ, రోజువారీ పరంగా, ఈ దృశ్యం ఎలా విప్పుతుంది:
- మా ఇటీవలి కాలమ్ “ది స్కేరియెస్ట్ AI రియాలిటీ” లో వ్రాసినట్లుగా, ఇది ఇప్పటికే AI కంపెనీలకు ఎందుకు మరియు LLM లు వాస్తవానికి ఎలా పనిచేస్తుందో ఒక రహస్యం. అవును, సృష్టికర్తలకు వారు యంత్రంలో నింపే డేటాను తెలుసు, మరియు సాధారణ నమూనాలు LLM లు ప్రశ్నలకు సమాధానం ఇవ్వడానికి మరియు “ఆలోచించండి”. కానీ LLM లు వారు చేసే విధంగా ఎందుకు స్పందిస్తారో వారికి తెలియదు.
పంక్తుల మధ్య: ఎల్‌ఎల్‌ఎంలు ట్రిలియన్ డాలర్ల విలువైనవి కావాలంటే, కంపెనీలకు తెలివైన మానవుల కంటే విశ్లేషించడానికి మరియు “ఆలోచించటానికి” అవసరం, ఆపై సంక్లిష్టమైన ఆలోచన మరియు నిర్ణయం తీసుకోవడం అవసరమయ్యే పెద్ద సమస్యలపై స్వతంత్రంగా పని చేయండి. AI ఏజెంట్లు లేదా ఏజెంట్స్ అని పిలవబడే పని.
- కాబట్టి వారు ఆలోచించాలి మరియు పిహెచ్.డి లాగా వ్యవహరించండి. విద్యార్థులు. కానీ కాదు ఒకటి పిహెచ్‌డి. విద్యార్థి. వర్చువల్ పిహెచ్.డి యొక్క అంతులేని సంఖ్యలో వారికి అవసరం. విద్యార్థులు కలిసి పనిచేసే, వార్ప్ వేగంతో, మానవ పర్యవేక్షణతో, వారి ఆశయాలను గ్రహించడానికి.
- “మేము (మొత్తం పరిశ్రమ, ఓపెనై మాత్రమే కాదు) ప్రపంచానికి మెదడును నిర్మిస్తున్నాము” అని ఓపెనాయ్ సీఈఓ సామ్ ఆల్ట్మాన్ గత వారం రాశారు.
ఏమి వస్తోంది: మీరు కృత్రిమ జనరల్ ఇంటెలిజెన్స్ (AGI) గురించి మరింత ఎక్కువగా వింటారు సూపర్ ఇంటెలిజెన్స్ నుండి ముందస్తు. AGI కి కఠినమైన నిర్వచనం లేదు, కానీ అధునాతన మానవ స్థాయిలో స్వతంత్ర ఆలోచన మరియు చర్య దానిలో పెద్ద భాగం. పెద్ద కంపెనీలు దీనిని సాధించడానికి దగ్గరగా ఉన్నాయని అనుకుంటాయి – కాకపోతే వచ్చే ఏడాది లేదా, త్వరలోనే. పిచాయ్ ఇది “అని అనుకుంటుంది”కొంచెం ఎక్కువ“ఐదేళ్ల కంటే
- నమూనాలు తమంతట తాముగా ఆలోచించడం మరియు వ్యవహరించడం ప్రారంభించిన తర్వాత, రోగ్‌కు వెళ్లడం మరియు వారు కోరుకున్నది చేయకుండా వారిని ఆపడానికి ఏమి చేయాలి, వారు లెక్కించే దాని ఆధారంగా వారి స్వలాభం? ఈ రోజు మనకన్నా ఎల్‌ఎల్‌ఎంలు ఎలా పనిచేస్తాయనే దానిపై చాలా లోతైన అవగాహన లేకపోవడం, సమాధానం: ఎక్కువ కాదు.
- పరీక్షలో, ఇంజనీర్లు ఎల్‌ఎల్‌ఎంలు తమ ఉద్దేశం మరియు ఆశయాల గురించి మానవులను మోసగించడానికి ప్రయత్నిస్తున్నట్లు పదేపదే ఉదాహరణలు కనుగొన్నారు. అగి-స్థాయిల తెలివిని g హించుకోండి.
మీకు కొంత విధానం అవసరం LLM లు అడవిలో ఉపయోగించబడటానికి లేదా విడుదల చేయడానికి ముందు ఈ సామర్థ్యాన్ని కలిగి ఉన్నాయని తెలుసుకోవటానికి – వాటిని ఆపడానికి ఫూల్‌ప్రూఫ్ కిల్ స్విచ్.
- కాబట్టి మీరు కంపెనీలను విశ్వసిస్తూ మిగిలిపోయారు – వారు వాటాదారులు, ఉన్నతాధికారులు మరియు ప్రభుత్వం కూడా మానవాతీత మేధస్సును ఉత్పత్తి చేసే మొదటగా ఉన్నవారి నుండి తీవ్ర ఒత్తిడికి గురైనప్పటికీ.
ప్రస్తుతం, కంపెనీలు స్వచ్ఛందంగా వారి నమూనా సామర్థ్యాలను ప్రభుత్వంలో కొంతమంది వ్యక్తులతో పంచుకోండి. కానీ కాంగ్రెస్ లేదా పళ్ళతో మరే ఇతర మూడవ పక్షానికి కాదు.
- చైనాకు ఈ మానవాతీత శక్తిని యుఎస్ ముందు పొందారని మరియు ఏదైనా మరియు అన్ని AI నియంత్రణలకు వ్యతిరేకంగా నిర్ణయించటానికి ఒక వైట్ హౌస్ అని imagine హించటం కష్టం కాదు.
యుఎస్ కంపెనీలు అయినా సరైన పని చేయండి, లేదా కిల్ స్విచ్ విధించడానికి మరియు ఉపయోగించడానికి యుఎస్ ప్రభుత్వం అడుగులు వేస్తుంది, చైనా లేదా ఇతర విదేశీ నటులపై మానవత్వం ఆధారపడుతుంది.
- నియంత్రణ వెలుపల AI ప్రమాదాన్ని ఆపడానికి ప్రభుత్వం నిజంగా జోక్యం చేసుకోగలదా అని అడిగినప్పుడు, వైస్ ప్రెసిడెంట్ వాన్స్ న్యూయార్క్ టైమ్స్ కాలమిస్ట్ రాస్ డౌత్యాట్‌తో మాట్లాడుతూ a ఇటీవలి పోడ్కాస్ట్: “నాకు తెలియదు. ఎందుకంటే ఈ ఆయుధ-రేస్ భాగం యొక్క భాగం: మేము విరామం తీసుకుంటే, చేస్తుంది [China] విరామం తీసుకోలేదా? అప్పుడు మనల్ని మనం కనుగొన్నాము … బానిసలుగా ఉంది [China]-మీడియేటెడ్ ఐ. “
అందుకే పి (డూమ్) మేము శ్రద్ధ వహించాలని డిమాండ్ చేస్తాము … చాలా ఆలస్యం కావడానికి ముందు.
- ఆక్సియోస్ టాల్ ఆక్సెల్రోడ్ రిపోర్టింగ్‌ను అందించింది.