דילוג לתוכן

שימוש אחראי ב־AI במשאבי אנוש / שיעור 1

מיפוי שימושים והשפעתם על אנשים

מטרות ושימושים בתהליכי HR; איכות מידע והשפעה על עובדים ומועמדים; חלוקת אחריות ובחירת מסלול בדיקה.

מקרה לתרגול

בשיעור הזה נתרגל מרשם שימושים. הסיטואציה הבאה מדומה, ואפשר לבצע את העבודה על מסמך מקומי או בכלי שהארגון אישר לשימוש. כדאי לקרוא את המקרה פעם אחת מתחילתו ועד סופו, ואז לסמן את המידע הדרוש לביצוע לפני שבוחרים כלי.

צוות משאבי אנוש שבוחן עוזר ארגוני. אותו כלי מציע ניסוח הודעה, תשובה לעובד והמלצה למגייס. בכל מקרה יש השפעה שונה אם הפלט שגוי.

בתום העבודה נרצה להפיק מרשם וטופס הערכת שימוש. כדי להבין מה ייחשב מספיק טוב, קראו את שלושת נושאי הליבה: מטרות ושימושים בתהליכי HR · איכות מידע והשפעה על עובדים ומועמדים · חלוקת אחריות ובחירת מסלול בדיקה. בתיק העבודה כתבו ליד כל נושא איזו פעולה בשיעור מדגימה אותו. כאשר אחד הנושאים דורש תיאום בין כמה אנשים, סמנו מי יכול להחליט ומי נדרש לספק מידע.

מה בודקים לאורך העבודה
  1. 1מרשם שימושים
  2. 2מטרות ושימושים בתהליכי HR
  3. 3איכות מידע והשפעה על עובדים ומועמדים
  4. 4מרשם וטופס הערכת שימוש

משימוש מוכר לבקרה שנבדקה

רישום שימושים מתעד מי מפעיל את הכלי, עם אילו נתונים, מה יכול לקרות בעקבותיו, ומי בודק. הוסיפו דרך לעצור ואדם שמכיר את התהליך.

נסחו שימוש באמצעות פעולה, סוגי מידע, תוצר צפוי, גורם שמאשר ותרחיש כשל. מסמך מדיניות צריך להיות קריא לאדם שמבצע את המשימה, ולכל בקרה מצמידים דרך לבדוק שהיא אכן פועלת. השתמשו בחומרים מדומים כדי לבדוק מצבים שמחייבים עצירה או העברה. במקרה של שינוי גרסה בספק, במקור או בהרשאות, התקינו בדיקה חוזרת בדיוק במקום שבו עלולה להופיע השפעה חדשה. שמרו בתיק התרגול עקבה המסבירה מתי התקבלה החלטה ועל אילו ראיות היא התבססה.

במקרה הזה דרך העבודה המוצעת היא: בנו מרשם עם מטרה, מידע מינימלי, משתמש, השפעה ובעלים. דרגו מה דורש בירור. לפני שמקדמים טיוטה, כתבו ליד כל נתון אם הגיע ממקור, התווסף כהשערה או נותר פתוח. אם אותו נתון מופיע בכמה גרסאות, רשמו איזה מסמך מעודכן יותר ומי מאשר אותו. החלטה אחת צריכה להיות קלה למעקב גם כשהיא מועברת לאדם שלא השתתף בניסוי.

כרטיס עבודה לדוגמה
שלבמה רושמים בתיקסימן שאפשר להמשיך
הכנת המקרהאותו כלי מציע ניסוח הודעה, תשובה לעובד והמלצה למגייס. בכל מקרה יש השפעה שונה אם הפלט שגוי.מקור, הקשר וגרסה מסומנים
עבודה על טיוטהבנו מרשם עם מטרה, מידע מינימלי, משתמש, השפעה ובעלים. דרגו מה דורש בירור.יש תוצר ראשוני שאפשר לפתוח ולבדוק
מסירהמרשם וטופס הערכת שימושמפרידים בין טיוטה פנימית לתהליך שמשפיע על אדם. מעבירים שאלות לגורם מקצועי.

כשמשווים בין שתי דרכי עבודה, שמרו את אותו קלט ואת אותה הגדרת תוצר לשתיהן. לפני הרצה ציינו מה מותר לשנות ובאיזה שלב מתחילים למדוד. אם הטיוטה עוברת עריכה אנושית, רשמו זמן עריכה לצד זמן הפקה. אם התוצר מבוסס על טענות, ספרו אילו מהן אומתו וכמה עדיין דורשות בדיקה. בצעו את ההשוואה לפי ראיה ישירה שניתן להראות לצוות.

יישום מסגרת ניהול הסיכונים של NISTMicrosoft Security Community · באנגלית

בנו ארבע שורות לפעולות ממשל, מיפוי, מדידה וטיפול. הקטע על מבנה המסגרת מתחיל ב־19:57.

פתיחה ב־YouTube ↗

בדיקת תוצאה וטיפול בחריגים

תחילו מדוגמה עם מידע מדומה וסמנו מקרי קצה של זכאות, רגישות ובעלות על הנתונים. הפרדה זו עוזרת לבחור בדיקה הולמת.

הכשל שכדאי לחפש תחילה הוא להחיל אותו מסלול אישור על כל שימוש. בתיק הבדיקה תארו מתי הוא עלול להתרחש, מה היה קורה בעקבותיו וכיצד תזהו אותו בלי לראות את כל שיחת ההכנה. למדו אותו מול הדוגמה המתוקנת. מפרידים בין טיוטה פנימית לתהליך שמשפיע על אדם. מעבירים שאלות לגורם מקצועי.

שתי בדיקות שכדאי להריץ
מקרההתערבות לבדיקהמה מתעדים
גרסה סבירהמפרידים בין טיוטה פנימית לתהליך שמשפיע על אדם. מעבירים שאלות לגורם מקצועי.מקור, פעולה, בעלים ותוצאת מסירה
מקרה חריגלהחיל אותו מסלול אישור על כל שימושאיזה תנאי דורש עצירה, איך נזהה אותו ולמי מעבירים

בבדיקה ראשונה השתמשו בנתון אחד שנוח לאמת. בבדיקה חוזרת החליפו אותו בנתון חסר או סותר, והשאירו את יתר התנאים קבועים. כתבו זמן התחלה וסיום, הפלט שקיבלתם, אילו חלקים תוקנו והאם נשארה שאלה לבעל מקצוע. לפני ריצה נוספת שמרו את שתי הגרסאות באותו תיק. אם משנים כמה דברים יחד, קשה להסביר איזה שינוי מנע את הטעות. אפשר לכן לבודד שינוי אחד ולהפעיל שוב את אותו תרחיש.

כשאדם שני בודק את התוצר, כדאי למסור לו את התוצאה ואת מקור הבדיקה עם שאלה אחת. למשל, בקשו שיסמן את המקום שבו היה עוצר לפני מסירה, ואת הראיה שהיה מבקש. אם אתם לומדים לבד, הסתירו את הטיוטה הראשונה, בדקו שוב מול המקור לאחר הפסקה קצרה והשוו את ההערות. תגובה שמציינת את הסיבה ואת השינוי הנדרש ניתנת ליישום בבדיקה הבאה.

תרגול אישי ותוצר

בחינת שלושה מקרים מדומים: ניסוח הודעה, מענה לשאלות עובדים והצגת המלצה בתהליך גיוס. המשתתפים יגדירו את מטרת השימוש, המידע הנדרש ואת המשתמש בתוצר, וימפו מה עלול לקרות אם התשובה שגויה. לכל מקרה ייקבעו בעלי האחריות והבדיקות שיש להשלים. הדיון יבחן גם שימוש נוסף במידע שנאסף למטרה אחרת ודרך לתעד החלטה על ניסוי ראשוני.

השוו סיכום פגישה מדומה לעומת המלצה המשפיעה על עובד. ההשפעה, דרישות האישור והגנה על הנתונים עולות כשמתקרבים להחלטה ממשית.

  1. פתחו עותק נקי של תיק העבודה. רשמו מה אתם מבקשים לקבל, למי מיועד התוצר ואיזה פרט חייב להגיע ממקור מאושר.
  2. בנו מרשם עם מטרה, מידע מינימלי, משתמש, השפעה ובעלים. דרגו מה דורש בירור. שמרו עותק עם תאריך ותיאור קצר של מה שכללתם.
  3. הכניסו לתרגיל פרט אחד חסר או מצב חריג הדומה לבעיה שלמדנו. תעדו את תגובת הכלי ואת הפעולה שבה בחרתם בעקבותיה.
  4. בדקו את התוצאה מול המקור ובחרו מקום אחד לתיקון. שמרו נוסח מתוקן עם סיבה קונקרטית לשינוי ותנאי לשימוש חוזר.
תבנית להעתקה לתיק העבודה
מטרה: מרשם שימושים
קלט לדוגמה: אותו כלי מציע ניסוח הודעה, תשובה לעובד והמלצה למגייס. בכל מקרה יש השפעה שונה אם הפלט שגוי.
תוצר רצוי: מרשם וטופס הערכת שימוש
ראיה לבדיקה: [מסמך, מצב, מקור או תצפית]
מי בודק ומתי: [תפקיד ומועד]
טעות לחיפוש: להחיל אותו מסלול אישור על כל שימוש
תיקון אפשרי: מפרידים בין טיוטה פנימית לתהליך שמשפיע על אדם. מעבירים שאלות לגורם מקצועי.
התוצאה בפועל והפעולה הבאה: […]

תוצר השיעור לפי הסילבוס: מרשם שימושים ראשוני וטופס הערכת שימוש אחד, עם שאלות פתוחות והגורמים שצריכים להשתתף בבדיקתן. כדאי לשמור גרסה ראשונה גם אם היא חלקית. בגרסה הסופית סמנו איזה שינוי בוצע, איזה רגע הצריך הפעלת שיקול דעת ומי יקבל את התוצר לשלב הבא. צרפו לפחות מקרה בדיקה אחד שהפעולה בו הייתה ברורה ומקרה נוסף שבו נדרשו הבהרה או מסירה.

אם הזמן קצר, התחילו במסלול הרגיל וסיימו את התוצר כשהוא ראוי למסירה. לאחר מכן נסו מקרה חריג אחד בלבד ותעדו את הגבול שבחרתם. לפרויקט הגמר אפשר לצרף את המקרה הראשון כדוגמת ביצוע ואת השני כדוגמת בקרה, עם הסבר קצר כיצד הם משלימים זה את זה. כשחוזרים לתרגיל בהמשך הקורס, השתמשו בעותק המקורי כדי למדוד אם השתפרו ההבנה, האיכות או הזמן הכולל.

בדיקה עצמית וקריאה נוספת

בדיקה עצמית לפני סיום
רכיבשאלה לתיעודראיה אפשרית
הבנת המקרההאם אפשר להסביר את העיקרון בעזרת המקרה מהשיעור?מרשם שימושים
תוצרהאם אדם נוסף יכול לפתוח ולהבין את התוצאה?מרשם וטופס הערכת שימוש
איכותהאם ברור מי בודק מה קורה כשהתנאים אינם מתקיימים?מפרידים בין טיוטה פנימית לתהליך שמשפיע על אדם. מעבירים שאלות לגורם מקצועי.
המשךמה הייתי משנה בהרצה נוספת ומתי הייתי בודק אותו?השוו סיכום פגישה מדומה לעומת המלצה המשפיעה על עובד. ההשפעה, דרישות האישור והגנה על הנתונים עולות כשמתקרבים להחלטה ממשית.

בסיכום כתבו לעצמכם שלוש שורות: מה הושלם, איזו ראיה גרמה לכם לתקן פרט משמעותי ומה דורש המשך בדיקה. בחרו משפט אחד שאפשר להכניס ישירות לתיק הפרויקט. כדאי שהמשפט יתאר החלטה שניתן לשחזר, למשל איך זיהיתם טעות, מה היה מקור האימות ואיזה בעל תפקיד נדרש להמשך. כך אפשר לחזור אל הדוגמה גם אחרי שהפרטים מהתרגיל כבר אינם טריים.

בדיקת הבנה

בחרו תשובה אחת לכל שאלה. אחרי השליחה תוכלו לקרוא את המשוב.

איזו פעולה שומרת על איכות התוצר במקרה שלמדנו?
מה כדאי לצרף למרשם וטופס הערכת שימוש כדי שאפשר יהיה לבדוק אותו שוב?