- ה-AI של A-Doc, שתוכנן להציל חיים בחדרי מיון, נתקל באתגרי אימוץ משתמשים בלתי צפויים.
- הנחות ראשוניות לגבי שגיאות אלגוריתם או תקלות טכניות הופרכו על ידי צלילות עמוקות להתנהגות המשתמשים.
- עייפות מהתראות וחוסר קונטקסט רלוונטי זוהו כחסמים העיקריים לניצול יעיל של AI.
- אינטגרציה עם מערכות תזמון בתי החולים והבנת תהליכי עבודה דינמיים של משתמשים שינו את השפעת ה-AI.
A-Doc, חברת AI פורצת דרך בתחום הבריאות, התמודדה עם בעיה מבלבלת: מערכת ה-AI המדויקת שלה, שתוכננה לסמן ממצאים רפואיים קריטיים, לא נוצלה ביעילות על ידי רדיולוגים. למרות ביצועי אלגוריתם ללא רבב, רופאים לא התחברו להתראות מצילות החיים. צלילה עמוקה זו לתהליך הגילוי שלהם חושפת אמת אוניברסלית למנהלי מוצר: תוצאות AI מעולות חסרות משמעות ללא חוויית משתמש מצוינת המותאמת להקשרים מהעולם האמיתי.
המשימה של A-Doc קריטית: למנף AI כדי לשפר את תוצאות הטיפול בחולים במצבי חירום. הטכנולוגיה שלהם מתמודדת עם אתגרי מפתח כמו תעדוף מקרים דחופים, אבחון מדויק של מצבים מורכבים מתוך נתוני דימות עצומים, והבטחת תקשורת מהירה לצוותי הטיפול. עם זאת, למרות היכולות המתקדמות של אלגוריתמי ראיית המחשב שלהם, החברה נתקלה במכשול משמעותי: רדיולוגים, שהיו מוצפים בעומס מטופלים גובר, לא השתמשו באופן עקבי בכלי ה-AI שנועדו לסייע להם. השאלה המרכזית הפכה להיות: כיצד אנו מעצימים אותם לבצע את עבודתם טוב יותר אם הם אינם משתמשים בפתרונות שלנו?
הבעיה הספציפית צפה עם התראות שנוצרו על ידי AI עבור ממצאים קריטיים. על הנייר, רופא שמקבל התראה על שבץ פוטנציאלי או מצב אקוטי אמור לפעול מיד. אך A-Doc הבחינה במעורבות נמוכה. התגובה הראשונית האינטואיטיבית הייתה לחשוד בדיוק האלגוריתם, אולי שיעור גבוה של חיובי שווא, או בעיות טכניות במסירת ההתראות. עם זאת, בדיקות פנימיות קפדניות ואימות על ידי צוות הרדיולוגים של A-Doc אישרו את דיוק ה-AI. הבעיה טמונה הייתה במקום אחר: האלגוריתם היה מושלם, אך חוויית המשתמש לא.
הפריצה הגיעה מהבנה של
“הליבה היא בכלל לא האלגוריתם. האלגוריתם, אין להם בעיה איתו, הם לא אמרו שהוא לא מדויק, אני לא מאמינה בזה. הליבה היא, תודיעו לי כשזה רלוונטי לי, בזמן המתאים לי, עם המידע שאני רוצה לראות.”
- Adi Kaiser, Senior Product Manager
