సిద్ధమౌతోంది క్యాన్సర్ రోగులు కష్టమైన నిర్ణయాల కోసం ఆంకాలజిస్ట్ ఉద్యోగం. అయినప్పటికీ, వారు దీన్ని చేయాలని ఎల్లప్పుడూ గుర్తుంచుకోరు. యూనివర్శిటీ ఆఫ్ పెన్సిల్వేనియా హెల్త్ సిస్టమ్‌లో, రోగి యొక్క చికిత్స మరియు చికిత్స గురించి మాట్లాడేందుకు వైద్యులు నడ్డి విరుస్తారు. జీవిత ముగింపు ప్రాధాన్యతలు కృత్రిమంగా తెలివైన అల్గోరిథం ద్వారా మరణం యొక్క అవకాశాలను అంచనా వేస్తుంది.
కానీ ఇది సెట్-ఇట్-అండ్-ఫర్గెట్-ఇట్ టూల్ కాకుండా చాలా దూరంగా ఉంది. 2022 అధ్యయనం ప్రకారం, కోవిడ్-19 మహమ్మారి సమయంలో అల్గోరిథం క్షీణించిందని, ఎవరు చనిపోతారో అంచనా వేయడంలో 7 శాతం పాయింట్లు అధ్వాన్నంగా ఉన్నాయని ఒక సాధారణ సాంకేతిక తనిఖీ వెల్లడించింది.
నిజ జీవిత ప్రభావాలు ఉండవచ్చు. అధ్యయనం యొక్క ప్రధాన రచయిత అయిన ఎమోరీ యూనివర్శిటీ ఆంకాలజిస్ట్ రవి పారిఖ్, KFF హెల్త్ న్యూస్‌తో మాట్లాడుతూ, అవసరమైన రోగులతో అనవసరమైన కీమోథెరపీని – బహుశా ఆ ముఖ్యమైన చర్చను ప్రారంభించడానికి వైద్యులను ప్రేరేపించడానికి ఈ సాధనం వందల సార్లు విఫలమైంది.
వైద్య సంరక్షణను మెరుగుపరచడానికి రూపొందించిన అనేక అల్గోరిథంలు ఆ సమయంలో బలహీనపడ్డాయని ఆయన అభిప్రాయపడ్డారు మహమ్మారిపెన్ మెడిసిన్‌లో మాత్రమే కాదు. “చాలా సంస్థలు తమ ఉత్పత్తుల పనితీరును మామూలుగా పర్యవేక్షించడం లేదు” అని పారిఖ్ చెప్పారు.
అల్గారిథమ్ గ్లిచ్‌లు అనేది కంప్యూటర్ శాస్త్రవేత్తలు మరియు వైద్యులు చాలా కాలంగా గుర్తించిన సందిగ్ధత యొక్క ఒక కోణం, కానీ ఇది ఆసుపత్రి అధికారులు మరియు పరిశోధకులను పజిల్ చేయడం ప్రారంభించింది: కృత్రిమ మేధస్సు వ్యవస్థలు స్థిరంగా పర్యవేక్షణ మరియు సిబ్బందిని ఉంచడానికి మరియు వాటిని బాగా పని చేయడానికి అవసరం.
సారాంశంలో: కొత్త సాధనాలు గందరగోళానికి గురికాకుండా చూసుకోవడానికి మీకు వ్యక్తులు మరియు మరిన్ని యంత్రాలు అవసరం.
స్టాన్‌ఫోర్డ్ హెల్త్ కేర్‌లోని చీఫ్ డేటా సైంటిస్ట్ నిగమ్ షా మాట్లాడుతూ, “మా యాక్సెస్ మరియు కెపాసిటీ మరియు సంరక్షణను మెరుగుపరచడంలో AI మాకు సహాయం చేస్తుందని అందరూ అనుకుంటారు. “అదంతా బాగుంది మరియు మంచిది, అయితే ఇది సంరక్షణ ఖర్చును 20% పెంచితే, అది ఆచరణీయమా?”
ప్రభుత్వ అధికారులు ఆసుపత్రులకు ఈ సాంకేతికతలను తమ వేగంతో అందించడానికి వనరులు లేవని ఆందోళన చెందుతున్నారు. “నేను చాలా దూరం చూశాను” అని FDA కమీషనర్ రాబర్ట్ కాలిఫ్ AI పై ఇటీవలి ఏజెన్సీ ప్యానెల్‌లో చెప్పారు. “యునైటెడ్ స్టేట్స్‌లో, క్లినికల్ కేర్ సిస్టమ్‌లో ఉంచబడిన AI అల్గారిథమ్‌ను ధృవీకరించగల సామర్థ్యం ఉన్న ఒకే ఆరోగ్య వ్యవస్థ ఉందని నేను నమ్మను.”
AI ఇప్పటికే విస్తృతంగా వ్యాపించింది ఆరోగ్య సంరక్షణలో. రోగుల మరణం లేదా క్షీణత యొక్క ప్రమాదాన్ని అంచనా వేయడానికి, రోగనిర్ధారణలను సూచించడానికి లేదా రోగులను పరీక్షించడానికి, సందర్శనలను రికార్డ్ చేయడానికి మరియు సంగ్రహించడానికి అల్గారిథమ్‌లు ఉపయోగించబడతాయి. వైద్యుల పనిని కాపాడండి మరియు కు బీమా క్లెయిమ్‌లను ఆమోదించండి.
టెక్ సువార్తికులు సరైనదైతే, సాంకేతికత సర్వత్రా – మరియు లాభదాయకంగా మారుతుంది. పెట్టుబడి సంస్థ బెస్సెమర్ వెంచర్ పార్ట్‌నర్స్ 20 ఆరోగ్య-కేంద్రీకృత AI స్టార్టప్‌లను ఏడాదికి ఒక్కొక్కటి $10 మిలియన్ల ఆదాయాన్ని ఆర్జించడానికి ట్రాక్‌లో ఉన్నట్లు గుర్తించింది. FDA దాదాపు వెయ్యి కృత్రిమ మేధో ఉత్పత్తులను ఆమోదించింది.
ఈ ఉత్పత్తులు పనిచేస్తాయో లేదో మూల్యాంకనం చేయడం సవాలుగా ఉంది. వారు పని చేస్తూనే ఉన్నారా – లేదా బ్లోన్ రబ్బరు పట్టీ లేదా లీకైన ఇంజన్‌కి సమానమైన సాఫ్ట్‌వేర్‌ను అభివృద్ధి చేశారా అని మూల్యాంకనం చేయడం మరింత తంత్రమైనది.
యేల్ మెడిసిన్ వద్ద ఇటీవలి అధ్యయనంలో ఆరు “ముందస్తు హెచ్చరిక వ్యవస్థలను” మూల్యాంకనం చేయండి, ఇది రోగులు వేగంగా క్షీణించే అవకాశం ఉన్నప్పుడు వైద్యులను హెచ్చరిస్తుంది. ఒక సూపర్‌కంప్యూటర్ చాలా రోజుల పాటు డేటాను అమలు చేసిందని చికాగో విశ్వవిద్యాలయంలో వైద్యుడు మరియు అధ్యయనం కోసం ఒక అల్గారిథమ్‌ను అందించిన కంపెనీ సహ వ్యవస్థాపకుడు డానా ఎడెల్సన్ చెప్పారు. ఈ ప్రక్రియ ఫలవంతమైంది, ఆరు ఉత్పత్తుల మధ్య పనితీరులో భారీ వ్యత్యాసాలను చూపుతోంది.
ఆసుపత్రులు మరియు ప్రొవైడర్‌లు తమ అవసరాలకు ఉత్తమమైన అల్గారిథమ్‌లను ఎంచుకోవడం అంత సులభం కాదు. సగటు వైద్యుని దగ్గర సూపర్‌కంప్యూటర్ కూర్చోవడం లేదు మరియు AI కోసం వినియోగదారు నివేదికలు లేవు.
“మాకు ఎటువంటి ప్రమాణాలు లేవు,” అని అమెరికన్ మెడికల్ అసోసియేషన్ యొక్క తక్షణ గత అధ్యక్షుడు జెస్సీ ఎహ్రెన్‌ఫెల్డ్ అన్నారు. “ఏఐ-ప్రారంభించబడిన అల్గారిథమ్ మోడల్ పనితీరును మీరు ఎలా అంచనా వేయాలి, పర్యవేక్షించాలి, చూడాలి, అది అమలు చేయబడినప్పుడు దాని పనితీరును ఎలా అంచనా వేస్తారు అనే దాని గురించి నేను ఈ రోజు మీకు సూచించగలిగేది ఏదీ లేదు.”
వైద్యుల కార్యాలయాలలో అత్యంత సాధారణ AI ఉత్పత్తిని యాంబియంట్ డాక్యుమెంటేషన్ అంటారు, ఇది టెక్-ఎనేబుల్డ్ అసిస్టెంట్, ఇది రోగి సందర్శనలను వింటుంది మరియు సంగ్రహిస్తుంది. ఈ సంవత్సరం ఇప్పటివరకు, రాక్ హెల్త్‌లోని పెట్టుబడిదారులు ఈ డాక్యుమెంటేషన్ కంపెనీలలోకి $353 మిలియన్లు ప్రవహిస్తున్నట్లు గుర్తించారు. కానీ, ఎహ్రెన్‌ఫెల్డ్ మాట్లాడుతూ, “ఈ సాధనాల అవుట్‌పుట్‌ను పోల్చడానికి ప్రస్తుతం ఎటువంటి ప్రమాణం లేదు.”
మరియు అది ఒక సమస్య, చిన్న లోపాలు కూడా వినాశకరమైనవి. స్టాన్‌ఫోర్డ్ విశ్వవిద్యాలయంలోని ఒక బృందం రోగుల వైద్య చరిత్రను క్లుప్తీకరించడానికి పెద్ద భాషా నమూనాలను – ChatGPT వంటి ప్రసిద్ధ AI సాధనాల అంతర్లీన సాంకేతికతను ఉపయోగించేందుకు ప్రయత్నించింది. వారు ఫలితాలను వైద్యుడు వ్రాసే దానితో పోల్చారు.
“ఉత్తమ సందర్భంలో కూడా, మోడల్‌లు 35% ఎర్రర్ రేటును కలిగి ఉన్నాయి” అని స్టాన్‌ఫోర్డ్ షా చెప్పారు. వైద్యశాస్త్రంలో, “మీరు సారాంశాన్ని వ్రాసేటప్పుడు మరియు మీరు ‘జ్వరం’ వంటి ఒక పదాన్ని మరచిపోయినప్పుడు — నా ఉద్దేశ్యం, అది సమస్య, సరియైనదా?”
కొన్నిసార్లు అల్గారిథమ్‌లు విఫలమయ్యే కారణాలు చాలా తార్కికంగా ఉంటాయి. ఉదాహరణకు, ఆసుపత్రులు ల్యాబ్ ప్రొవైడర్‌లను మార్చడం వంటి అంతర్లీన డేటాకు మార్పులు వాటి ప్రభావాన్ని క్షీణింపజేస్తాయి.
అయితే, కొన్నిసార్లు, ఆపదలు స్పష్టమైన కారణం లేకుండానే తెరుచుకుంటాయి.
బోస్టన్‌లోని మాస్ జనరల్ బ్రిగమ్ యొక్క వ్యక్తిగతీకరించిన మెడిసిన్ ప్రోగ్రామ్‌లోని టెక్ ఎగ్జిక్యూటివ్ శాండీ అరోన్సన్, జన్యు సలహాదారులకు DNA వేరియంట్‌ల గురించి సంబంధిత సాహిత్యాన్ని గుర్తించడంలో సహాయపడటానికి ఉద్దేశించిన ఒక అప్లికేషన్‌ను అతని బృందం పరీక్షించినప్పుడు, ఉత్పత్తి “నాన్‌డెటర్మినిజం”తో బాధపడింది – అంటే అదే అడిగినప్పుడు తక్కువ వ్యవధిలో అనేకసార్లు ప్రశ్నించడం, అది భిన్నమైన ఫలితాలను ఇచ్చింది.
అధిక భారం ఉన్న జన్యు సలహాదారుల కోసం జ్ఞానాన్ని సంగ్రహించడానికి పెద్ద భాషా నమూనాల సంభావ్యత గురించి అరోన్సన్ సంతోషిస్తున్నాడు, అయితే “సాంకేతికత మెరుగుపడాలి.”
కొలమానాలు మరియు ప్రమాణాలు చాలా తక్కువగా ఉంటే మరియు వింత కారణాల వల్ల లోపాలు ఏర్పడితే, సంస్థలు ఏమి చేయాలి? చాలా వనరులను పెట్టుబడి పెట్టండి. స్టాన్‌ఫోర్డ్‌లో, సరసత మరియు విశ్వసనీయత కోసం రెండు మోడళ్లను ఆడిట్ చేయడానికి ఎనిమిది నుండి 10 నెలలు మరియు 115 పని గంటలు పట్టిందని షా చెప్పారు.
KFF హెల్త్ న్యూస్‌కి ఇంటర్వ్యూ చేసిన నిపుణులు ఆర్టిఫిషియల్ ఇంటెలిజెన్స్ మానిటర్ ఆర్టిఫిషియల్ ఇంటెలిజెన్స్ ఆలోచనను ఆవిష్కరించారు, కొన్ని (మానవ) డేటా విజ్ రెండింటినీ పర్యవేక్షిస్తుంది. సంస్థలు మరింత ఎక్కువ డబ్బు ఖర్చు చేయవలసి ఉంటుందని అందరూ అంగీకరించారు – ఆసుపత్రి బడ్జెట్‌ల వాస్తవికత మరియు AI టెక్ నిపుణుల పరిమిత సరఫరా కారణంగా ఇది కఠినమైన ప్రశ్న.
“ఒక మోడల్‌ను వారి నమూనాను పర్యవేక్షించడానికి మేము మంచుకొండలను కరిగించే దృశ్యాన్ని కలిగి ఉండటం చాలా బాగుంది” అని షా అన్నారు. “అయితే నేను నిజంగా కోరుకున్నది అదేనా? మనకు ఇంకా ఎంత మంది అవసరం?”
KFF ఆరోగ్య వార్తలు ఆరోగ్య సమస్యల గురించి లోతైన జర్నలిజంను రూపొందించే జాతీయ న్యూస్‌రూమ్ మరియు ప్రధాన ఆపరేటింగ్ ప్రోగ్రామ్‌లలో ఒకటి KFF – ఆరోగ్య విధాన పరిశోధన, పోలింగ్ మరియు జర్నలిజం కోసం స్వతంత్ర మూలం.
