สิ่งที่คุณต้องรู้
- การลงทุนด้าน AI ของคุณจะได้ผลตอบแทนที่คุ้มค่าก็ต่อเมื่อมีมาตรการควบคุมที่ช่วยให้มั่นใจได้ว่าผลลัพธ์ที่ได้นั้นถูกต้อง เชื่อถือได้ และสอดคล้องกับเป้าหมายขององค์กร
- การบริหารจัดการ AI อย่างมีประสิทธิภาพเริ่มต้นจากการตรวจจับประเด็นความเสี่ยงหลักๆ ได้ แล้วนำมาเทียบกับกฎระเบียบทั้งที่มีอยู่ในปัจจุบันและกฎระเบียบใหม่ที่กำลังจะมีขึ้น
- การทำความเข้าใจถึงบทบาทของตนเองในห่วงโซ่คุณค่าของ AI ให้ชัดเจนนั้น จะช่วยให้สามารถให้ความสำคัญกับข้อกำหนดทางกฎหมายและข้อกำหนดว่าด้วยการปฏิบัติตามกฎระเบียบที่เกี่ยวข้องกับคุณมากที่สุดได้
- AI ต้องได้รับการกำกับดูแลโดยมนุษย์ ควบคู่ไปกับการกำหนดความรับผิดชอบและมาตรการควบคุมที่ชัดเจนในทุกขั้นตอน ตั้งแต่การออกแบบไปจนถึงการตรวจติดตามผลการทำงาน
- การปรับใช้มาตรการควบคุมที่เหมาะสมกับระดับความเสี่ยงจะช่วยปกป้ององค์กรของคุณได้โดยไม่ชะลอการสร้างนวัตกรรมใหม่ๆ
การดึงศักยภาพของ AI ออกมาใช้ได้อย่างเต็มที่ต้องอาศัยมากกว่าแค่การลงทุน ไม่ว่าคุณจะกำลังพัฒนาหรือใช้งาน AI ก็จำเป็นต้องมีการบริหารจัดการ AI ที่มีประสิทธิภาพ โดยการบริหารจัดการดังกล่าวต้องมีทั้งการกำกับดูแลที่ชัดเจน การกำหนดบทบาทหน้าที่อย่างรัดกุม และมาตรการควบคุมที่สอดคล้องกับความเสี่ยง การปฏิบัติตามกฎระเบียบ และนวัตกรรม ตลอดทั้งวงจรการใช้งาน AI
จะเกิดอะไรขึ้นเมื่อ AI พัฒนาไปเร็วเกินการควบคุม
คุณอาจกำลังเร่งใช้ประโยชน์จากปัญญาประดิษฐ์ (AI) เพื่อลดต้นทุน สร้างสรรค์นวัตกรรม และสร้างความโดดเด่นเหนือคู่แข่ง เช่นเดียวกับองค์กรอื่นๆ อีกเป็นจำนวนมาก ภายในเวลาเพียงไม่กี่ปี AI ได้เปลี่ยนสถานะจากเครื่องมือที่มีเพียงคนบางกลุ่มใช้มาเป็นปัจจัยสำคัญที่ต้องนำมาพิจารณาปรับใช้เพื่อการวางกลยุทธ์และการเติบโตในระยะยาว ดังนั้น จากคำถามที่ว่าจะลงทุนใน AI หรือไม่ ก็กลายเป็นการต้องตัดสินใจแล้วว่าจะลงทุนในส่วนใดและจะทุ่มงบประมาณลงไปมากน้อยเพียงใด
แต่ถึงกระนั้น AI ก็ยังทำงานพลาดได้ เมื่อไม่นานมานี้ หนังสือพิมพ์ Chicago Sun-Times ได้นำเสนอรายการหนังสือที่ไม่มีอยู่จริงซึ่ง AI สร้างขึ้นมาเอง ส่วน iTutor Group ต้องจ่ายเงินชดเชยถึง 365,000 ดอลลาร์ เพราะระบบสรรหาบุคลากรซึ่งใช้ AI ประมวลผลปฏิเสธใบสมัครของผู้หญิงที่มีอายุตั้งแต่ 55 ปีขึ้นไปโดยอัตโนมัติ ตัวอย่างเหล่านี้แสดงให้เห็นว่าข้อผิดพลาดของ AI อาจส่งผลกระทบในโลกแห่งความเป็นจริงได้อย่างรวดเร็วแค่ไหน
AI ช่วยประหยัดเวลาและเงินได้ก็จริง แต่หากไม่มีการบริหารจัดการที่ดี ก็อาจทำให้เสียทั้งเงินและเวลาได้ง่ายๆ เหมือนกัน ความผิดพลาดที่เกิดขึ้นนั้นอาจบั่นทอนความเชื่อมั่น ทำให้เสี่ยงต้องเผชิญกับปัญหาทางกฎหมาย และสร้างความเสียหายต่อชื่อเสียงของคุณได้
ปัญหาคือเพราะเราเร่งรีบที่จะนำ AI มาใช้ประโยชน์ จึงทำให้อาจไม่ทันได้ระบุหรือจัดการความเสี่ยงใหม่ๆ ได้ ผลการวิจัยของเราชี้ให้เห็นว่ามีองค์กรเพียง 47% เท่านั้นที่นำกระบวนการที่เป็นทางการมาควบคุมการใช้งาน AI และมีเพียง 57% เท่านั้นที่เชื่อว่าพนักงานของตนมีทักษะในการใช้งาน AI ได้อย่างมีประสิทธิภาพ เพราะอัตราการนำเทคโนโลยีมาใช้นั้นสูงกว่าความสามารถในการควบคุมดูแล การลงทุนด้าน AI จึงเริ่มให้ผลลัพธ์ต่ำกว่าที่คาดหวัง
เพื่อให้การลงทุนด้าน AI คุ้มค่า คุณจึงต้องมีระบบการบริหารจัดการที่ช่วยให้มั่นใจได้ว่า AI จะให้ผลลัพธ์ที่ถูกต้องเหมาะสม
บทบาทของคุณในการใช้งาน AI คืออะไร
การบริหารจัดการ AI อย่างมีประสิทธิภาพเริ่มต้นจากการทำความเข้าใจถึงบทบาทของคุณในวงจรการใช้งาน AI
ก่อนที่จะออกแบบระบบการบริหารจัดการ AI ที่มีประสิทธิภาพได้นั้น คุณจำเป็นต้องทราบอย่างแน่ชัดว่า AI เข้ามามีบทบาทอย่างไรในองค์กรของคุณ
- วิสัยทัศน์ของคุณที่มีต่อ AI เป็นอย่างไร
- เป้าหมายของคุณคืออะไร
- ขอบเขตความรับผิดชอบของคุณเริ่มต้นและสิ้นสุดที่ตรงไหน
องค์กรของคุณอาจพัฒนาโซลูชัน AI คุณอาจนำ AI ไปใช้ในสภาพแวดล้อมของลูกค้า หรือคุณอาจเลือกใช้ระบบ AI ที่พัฒนาโดยบริษัทอื่นก็ได้
บทบาทขององค์กรคุณมีผลโดยตรงต่อความเสี่ยงและความรับผิดชอบที่คุณต้องแบกรับ ดังนั้น ให้พิจารณาว่าบทบาทใดเหมาะสมกับคุณมากที่สุด โดยอิงตามบทบาทของผู้มีส่วนได้ส่วนเสียที่ระบุไว้ในมาตรฐานสากลด้านการบริหารจัดการ AI ISO/IEC 42001
- ผู้ผลิต – คุณต้องแบกรับความเสี่ยงด้านการออกแบบ โดยเฉพาะอย่างยิ่งในส่วนที่เกี่ยวข้องกับความปลอดภัยทางไซเบอร์
- พันธมิตร – คุณต้องแบกรับความเสี่ยงในการนำไปใช้งานจริง
- ผู้ให้บริการ – คุณมีหน้าที่รับผิดชอบเรื่องความเสถียร ความปลอดภัย และความต่อเนื่องของการให้บริการ
- ลูกค้า – คุณคือผู้รับผิดชอบสูงสุดต่อวิธีการนำ AI ไปใช้งาน
นอกจากนี้ บทบาทของคุณยังเป็นตัวกำหนดว่าคุณจำเป็นต้องมีขีดความสามารถแบบไหนด้วย หากคุณกำลังพัฒนาโซลูชัน AI คุณจำเป็นต้องมีความเชี่ยวชาญทางเทคนิคในระดับสูง แต่หากคุณเป็นลูกค้า ก็จำเป็นต้องมีความตระหนักรู้เกี่ยวกับองค์กรที่กว้างขึ้น
ไม่มีรูปแบบการบริหารจัดการ AI ใดที่ใช้ได้ครอบจักรวาล แต่เมื่อคุณกำหนดบทบาทของตนเองได้แล้ว ก็จะสามารถระบุความรับผิดชอบที่ตามความเหมาะสมได้ ซึ่งนี่จะกลายเป็นเกณฑ์พื้นฐานเพื่อใช้ในการสร้างโครงสร้างการกำกับดูแลที่เหมาะสมกับคุณ การนำ AI มาใช้อย่างมีความรับผิดชอบจะช่วยปกป้ององค์กรของคุณ พร้อมทั้งเอื้อให้เกิดการสร้างนวัตกรรมด้วย
ส่วนใดบ้างที่มีความเสี่ยงและภาระผูกพันเกี่ยวกับ AI
เมื่อเข้าใจบทบาทของตนเองแล้ว ขั้นตอนต่อไปคือการพิจารณาให้ได้ว่าคุณมีความเสี่ยงในด้านใดบ้าง และกฎระเบียบต่างๆ มีผลบังคับใช้กับคุณอย่างไร ตัวอย่างเช่น กฎหมาย AI ของสหภาพยุโรปเป็นตัวกำหนดกรอบการทำงานเพื่อการนำ AI มาใช้ในยุโรปอย่างปลอดภัยและมีความรับผิดชอบมากยิ่งขึ้น
อย่างไรก็ตาม คุณอาจมีภาระผูกพันทางกฎหมายอยู่แล้วไม่ว่าจะมีกฎหมายเฉพาะด้าน AI มาบังคับใช้หรือไม่ เนื่องจากกฎหมายว่าด้วยความเป็นส่วนตัว ความมั่นคงปลอดภัยทางไซเบอร์ และความปลอดภัยของผลิตภัณฑ์อาจเกี่ยวข้องกับคุณทั้งหมด เนื่องจากข้อกำหนดเกี่ยวกับความโปร่งใสและการตัดสินใจโดยอัตโนมัติตามกฎหมายคุ้มครองข้อมูลส่วนบุคคลของสหภาพยุโรป (GDPR) นั้นมีผลบังคับใช้มาเป็นเวลาหลายปีแล้ว การปฏิบัติตามกฎระเบียบนั้นไม่ได้เริ่มจากการปฏิบัติตามกฎหมายเฉพาะสำหรับ AI เท่านั้น แต่คุณจำเป็นต้องพิจารณาภาระผูกพันตามกฎระเบียบที่มีอยู่ในปัจจุบันด้วยเช่นกัน
เมื่อคุณเข้าใจบทบาทของตัวเองก่อนแล้ว คุณจะสามารถให้ความสำคัญกับการจัดการความเสี่ยงและภาระผูกพันที่สำคัญที่สุดได้ กรอบการทำงานพื้นฐานด้าน AI ของ BSI ช่วยให้คุณดำเนินการดังกล่าวได้โดยการระบุความเสี่ยงตามบริบทขององค์กร เพื่อให้คุณกำหนดมาตรการควบคุมในระดับที่เหมาะสมได้ โดยไม่ขัดขวางการสร้างนวัตกรรม
คุณยังมีส่วนร่วมในการควบคุมอยู่หรือไม่
AI จำเป็นต้องได้รับการกำกับดูแลโดยมนุษย์เพื่อสร้างความเชื่อมั่น แม้รูปแบบการกำกับดูแลจะแตกต่างกันไปตามบริบทการใช้งาน แต่จะต้องสามารถระบุตัวบุคคลผู้รับผิดชอบได้อย่างชัดเจนเสมอ โดยไล่ลงมาตั้งแต่ผู้ที่อยู่ระดับสูงสุดขององค์กรจนถึงพนักงานระดับต่ำลงมา กล่าวคือต้องมีการกำหนดบทบาทและความรับผิดชอบไว้ในทุกระดับ เพื่อป้องกันไม่ให้เกิดการเกี่ยงกันหรือผลักภาระความรับผิดชอบให้ผู้อื่น
ลองถามตัวเองดูว่า เรามีการกำกับดูแลที่ชัดเจนตลอดทั้งวงจรการใช้งาน AI หรือไม่
ตั้งแต่การออกแบบและแนวคิด ไปจนถึงการตรวจติดตามผลลัพธ์เพื่อตรวจสอบความถูกต้อง อคติของระบบ และความเสี่ยง ในปัจจุบันนี้ มีธุรกิจเพียง 33% เท่านั้นที่มีกระบวนการที่กำหนดไว้อย่างชัดเจนสำหรับการนำเครื่องมือ AI ใหม่ๆ มาใช้งาน หากไม่มีกระบวนการดังกล่าว ก็ยากที่จะรับรองความถูกต้องและความรับผิดชอบในการดำเนินงานเมื่อมีการขยายขอบเขตการใช้งาน AI ให้กว้างขึ้น และมีธุรกิจเพียง 35% เท่านั้นที่มีแนวทางที่เป็นมาตรฐานในการประเมินว่า AI ทำงานได้ตามจุดประสงค์หรือไม่ การกำกับดูแลที่มีประสิทธิภาพจำเป็นต้องอาศัยมนุษย์ในการกำหนดมาตรการควบคุมการตัดสินใจต่างๆ ซึ่งเป็นสิ่งที่ AI จะต้องยึดถือในการปฏิบัติงาน รวมถึงทำหน้าที่รับรองความน่าเชื่อถือของมาตรการควบคุมดังกล่าวด้วย
เพื่อให้ดำเนินการดังกล่าวได้ คุณจำเป็นต้องลงทุนในด้านทักษะและการฝึกอบรมโดยใช้แนวปฏิบัติที่ดีที่สุดในระดับสากลเป็นบรรทัดฐาน ในบริบทการพัฒนาซอฟต์แวร์ คุณอาจกำหนดด่านตรวจที่บังคับให้ต้องผ่านก่อน ซึ่งจะช่วยป้องกันไม่ให้มีการดำเนินการไปยังขั้นตอนต่อไปจนกว่าจะมีการตรวจสอบความเสี่ยงและมาตรการควบคุมต่างๆ แล้ว นอกจากนี้ คุณอาจพิจารณาใช้หลักปฏิบัติในการออกแบบ AI ที่ยึดมนุษย์เป็นหลัก (Human-Centered AI หรือ HCAI) ซึ่งจะให้ความสำคัญกับความต้องการและค่านิยมของมนุษย์เป็นหัวใจหลักของโซลูชัน AI ทั้งหมดนี้จะช่วยเพิ่มศักยภาพในการนำ AI และนวัตกรรมมาใช้อย่างมีความรับผิดชอบได้
ขณะที่กำลังพิจารณาเรื่องการนำ AI มาปรับใช้ในองค์กรนั้น ให้ลองคิดทบทวนและประเมินสถานการณ์ดูก่อน
- คุณมีบทบาทอย่างไรในวงจรการใช้งาน AI
- บทบาทนี้ส่งผลต่อความเสี่ยงและความรับผิดชอบของคุณอย่างไร
- คุณจะกำหนดให้มนุษย์เข้ามารับผิดชอบตลอดวงจรการใช้งาน AI ได้อย่างไร
ระบบการบริหารจัดการจะไม่กลายเป็นภาระที่ไม่จำเป็น หากทำหน้าที่ได้ดีจริง โดยควรเป็นสิ่งที่ช่วยลดความเสี่ยงและสร้างโอกาสให้คุณได้สร้างมูลค่าในระยะยาว
วิธีก้าวต่อไปข้างหน้าอย่างมั่นใจ
การบริหารจัดการ AI อย่างมีประสิทธิภาพนั้นเริ่มต้นจากการทำความเข้าใจสถานะปัจจุบันและกำหนดจุดที่ควรให้ความสำคัญในลำดับต่อไป
กรอบการทำงานพื้นฐานด้าน AI แบบแยกส่วนของ BSI ช่วยคุณทำเรื่องนั้นให้สำเร็จได้ โดยจะช่วยในการประเมินขีดความสามารถในปัจจุบัน ระบุลักษณะความเสี่ยงของคุณโดยเฉพาะ และจัดลำดับความสำคัญของขั้นตอนที่นำไปปฏิบัติได้จริงซึ่งจะสร้างผลลัพธ์ที่ดีได้มากที่สุด
โมดูลการบริหารจัดการ AI ที่ยึดตามกรอบการทำงานนี้จะมุ่งเน้นไปที่ประสิทธิภาพในการบริหารจัดการระบบ AI ของคุณในทางปฏิบัติ เนื่องจากมีการอ้างอิงมาตรฐาน ISO และ NIST ที่เป็นที่ยอมรับ กรอบการทำงานนี้จะช่วยให้คุณดังนี้:
- ประเมินประสิทธิภาพของมาตรการควบคุม
- ปรับปรุงการกำกับดูแลโดยมนุษย์
- เสริมสร้างศักยภาพในด้านที่สำคัญต่างๆ เช่น การบริหารจัดการวงจรการใช้งานผลิตภัณฑ์ การจัดทำเอกสาร และการจัดการความเสี่ยงของผู้ให้บริการ
- เตรียมความพร้อมเพื่อการตรวจรับรองมาตรฐาน ISO/IEC 42001 หากนั่นคือเป้าหมายที่คุณต้องไปให้ถึง
การศึกษาโมดูลการบริหารจัดการ AI จะช่วยให้คุณลดความเสี่ยงและสร้างมูลค่าได้ พร้อมๆ กับที่ยังพัฒนาระบบและขีดความสามารถด้าน AI อย่างไม่หยุดยั้ง
