![]() |
Microsoft ร่วมมือกับองค์กรกว่า 40 แห่งผ่านโครงการ AI Transparency Initiative ใหม่ ซึ่งรวมถึง Accenture, Adobe, KPMG, Mastercard และ Volvo Cars เพื่อผลักดันแนวทางร่วมกันด้านความโปร่งใส ความปลอดภัย และการกำกับดูแล AI ที่ครอบคลุมโมเดลและผู้ให้บริการรายต่าง ๆ นอกจากนี้ Microsoft จะเพิ่มความสามารถในการมองเห็นว่าโมเดลและเอเจนต์ AI โต้ตอบกับข้อมูลขององค์กรอย่างไรในผลิตภัณฑ์และบริการต่าง ๆ ของ Microsoft
เรดมอนด์, รัฐวอชิงตัน, 18 พฤศจิกายน 2569 /PRNewswire/ — องค์กรต่าง ๆ สามารถติดตามกิจกรรมส่วนใหญ่ที่เกิดขึ้นรอบโมเดล AI ได้ แต่บ่อยครั้งไม่สามารถตรวจสอบย้อนหลังได้ว่าเกิดอะไรขึ้นระหว่างการส่งคำขอกับการได้รับผลลัพธ์ ทำให้ยากต่อการตรวจสอบพฤติกรรมของโมเดลอย่างเป็นอิสระ ในงาน Microsoft Ignite เมื่อวันอังคารที่ผ่านมา Satya Nadella ประธานกรรมการและประธานเจ้าหน้าที่บริหารของ Microsoft ประกาศความมุ่งมั่นระยะถัดไปของ Microsoft ในการทำให้ AI ปลอดภัยยิ่งขึ้น ด้วยการเปิดตัวโครงการ AI Transparency Initiative ซึ่งเป็นความร่วมมือกับลูกค้าและพันธมิตรเพื่อกำหนดแนวทางร่วมกันที่เปิดกว้างด้านความปลอดภัยและการกำกับดูแลสำหรับโมเดลและผู้ให้บริการรายต่าง ๆ โครงการนี้สะท้อนหลักการง่าย ๆ ว่า ยิ่ง AI ทำงานได้อย่างอิสระมากขึ้นเท่าใด ก็ยิ่งต้องมีความโปร่งใสมากขึ้นเท่านั้น
"เพื่อให้มาตรการควบคุมด้านความปลอดภัยมีประสิทธิผล ทุกองค์กรจำเป็นต้องมองเห็นการทำงานภายในโมเดลอย่างโปร่งใสมากขึ้น" Hayete Gallot รองประธานบริหารฝ่าย Microsoft Security กล่าว "ด้วยความร่วมมือนี้ เราจะเพิ่มความโปร่งใสให้แก่ทุกโมเดล นี่เป็นก้าวสำคัญในการทำให้การควบคุมและจำกัดขอบเขตความเสียหายมีความชาญฉลาดและรัดกุมยิ่งขึ้น ช่วยให้เรามีข้อมูลที่ดีขึ้นสำหรับการกำหนดความรับผิดชอบและการตรวจสอบย้อนหลัง"
องค์กรต่าง ๆ กำลังเชื่อมต่อโมเดล AI เข้ากับข้อมูล เครื่องมือ ข้อมูลรับรองการเข้าถึง และโครงสร้างพื้นฐาน ทำให้เอเจนต์สามารถดำเนินการได้โดยไม่ต้องขออนุมัติจากมนุษย์ในทุกขั้นตอน มาตรการควบคุมที่มีอยู่สามารถติดตามกิจกรรมส่วนใหญ่รอบโมเดล AI ได้ แต่ไม่สามารถมองเห็นสิ่งที่เกิดขึ้นภายในโมเดล หรือตรวจสอบคำอธิบายพฤติกรรมที่โมเดลรายงานเกี่ยวกับตนเองได้อย่างเป็นอิสระ ข้อจำกัดนี้ส่งผลต่อความสามารถขององค์กรในการทำความเข้าใจบริบทเบื้องหลังการดำเนินการของเอเจนต์ ช่องว่างด้านหลักฐานดังกล่าวก่อให้เกิดความเสี่ยงด้านความปลอดภัย การปฏิบัติตามข้อกำหนด การตรวจสอบ และความรับผิดชอบ ทีมรักษาความปลอดภัยจึงจำเป็นต้องมีสถาปัตยกรรมความไว้วางใจรูปแบบใหม่ เพื่อรับมือกับความเสี่ยงจากบุคคลภายในที่เพิ่มขึ้นอันเนื่องมาจากเอเจนต์ AI ที่มีขีดความสามารถสูงขึ้นเรื่อย ๆ
"เมื่อเอเจนต์ AI เข้ามาเป็นส่วนหนึ่งของการดำเนินงานขององค์กรอย่างลึกซึ้งยิ่งขึ้น ทีมรักษาความปลอดภัยจำเป็นต้องมองเห็นอย่างชัดเจนว่าเอเจนต์เหล่านั้นกำลังเข้าถึงอะไร ดำเนินการอะไร และจะตรวจสอบการดำเนินการเหล่านั้นได้อย่างไร" Aanchal Gupta ประธานเจ้าหน้าที่ฝ่ายความปลอดภัยของ Adobe กล่าว "การสร้างแนวทางร่วมกันด้านความโปร่งใสของ AI ทั่วทั้งอุตสาหกรรมเป็นสิ่งสำคัญในการเสริมสร้างความไว้วางใจ และช่วยให้องค์กรสร้างสรรค์นวัตกรรมได้อย่างมั่นใจ ควบคู่กับการรักษาความปลอดภัยและความรับผิดชอบ"
จากหลักการสู่การปฏิบัติ
โครงการนี้ประกอบด้วย 3 ส่วน ส่วนแรก Microsoft จะขยายการมีส่วนร่วมในโครงการ SI Agent Standards Initiative ของสถาบันมาตรฐานและเทคโนโลยีแห่งชาติสหรัฐฯ (NIST) และนำงานวิจัยของสถาบันมาใช้เพื่อพัฒนามาตรฐานแบบเปิดทั่วทั้งอุตสาหกรรมด้านความโปร่งใส ความปลอดภัย และการกำกับดูแล AI ส่วนที่สอง Microsoft กำลังร่วมมือกับองค์กรกว่า 40 แห่ง ซึ่งรวมถึง Accenture, Adobe, KPMG, Mastercard และ Volvo Cars เพื่อช่วยพัฒนามาตรฐานแบบเปิดสำหรับระบบ AI ที่มีความรับผิดชอบ สามารถตรวจสอบได้อย่างเป็นอิสระ และได้รับการออกแบบให้มีความปลอดภัยตั้งแต่ต้น ไม่ว่าจะใช้โมเดลหรือผู้ให้บริการรายใดก็ตาม
ส่วนที่สาม Microsoft จะนำผลจากความร่วมมือนี้มาผนวกรวมเข้ากับ Microsoft AI, Microsoft Foundry และ Microsoft Copilot เพื่อให้ลูกค้าสามารถนำหลักฐานที่ได้ไปใช้ร่วมกับเครื่องมือด้านความปลอดภัยและการปฏิบัติตามข้อกำหนดของตนเอง ไม่ว่าจะเป็นเครื่องมือของ Microsoft หรือผู้ให้บริการรายอื่นก็ตาม
"ลูกค้าของเราต้องการเดินหน้าใช้ AI ให้รวดเร็วยิ่งขึ้น และไม่ควรต้องเลือกระหว่างนวัตกรรมกับความปลอดภัย" John Israel ประธานเจ้าหน้าที่ฝ่ายความมั่นคงปลอดภัยสารสนเทศระดับโลกของ KPMG International กล่าว "ความไว้วางใจใน AI ต้องอาศัยความโปร่งใส ความสามารถในการอธิบาย และการกำกับดูแลอย่างรับผิดชอบ เราภูมิใจที่ได้ร่วมงานกับ Microsoft ในโครงการ AI Transparency Initiative เพื่อช่วยกำหนดมาตรฐานแบบเปิดทั่วทั้งอุตสาหกรรม ซึ่งจะช่วยให้องค์กรมีความสามารถในการมองเห็นและควบคุมตามที่จำเป็นต่อการนำ AI ไปใช้งานอย่างรับผิดชอบในวงกว้าง"
ความรับผิดชอบที่ชัดเจน
เอเจนต์ที่สามารถเข้าถึงข้อมูล เครื่องมือ และข้อมูลรับรองการเข้าถึง มีลักษณะความเสี่ยงเช่นเดียวกับบุคคลภายในที่มีสิทธิ์เข้าถึงระดับสูง แต่สามารถทำงานด้วยความเร็วและในขนาดระดับเครื่องจักรได้ การกำกับดูแลอย่างเป็นอิสระจึงเป็นสิ่งจำเป็น
ความรับผิดชอบยังคงอยู่ที่องค์กร เมื่อเกิดเหตุการณ์ที่มีผลกระทบสำคัญ ผู้นำองค์กรต้องตอบคำถามลูกค้า พนักงาน คณะกรรมการบริษัท ผู้ตรวจสอบ และหน่วยงานกำกับดูแล การกล่าวโทษ AI ไม่ใช่คำตอบ และการ "เชื่อใจโมเดล" ก็ไม่ใช่มาตรการควบคุม
โครงการนี้ได้รับการออกแบบให้รองรับโมเดลและผู้ให้บริการรายต่าง ๆ ทั้งโมเดลแบบปิดและโมเดลที่เปิดเผยค่าน้ำหนัก (open-weight) เพื่อให้ทีมนักพัฒนาสามารถเปลี่ยนหรืออัปเดตโมเดลที่ขับเคลื่อนเอเจนต์ของตนได้ โดยไม่กระทบต่อความสามารถของทีมไอทีและทีมรักษาความปลอดภัยในการกำกับดูแลเอเจนต์อย่างปลอดภัย หรือความสามารถของทีมกำกับการปฏิบัติตามข้อกำหนดในการตรวจสอบการดำเนินการของเอเจนต์
"ขณะที่องค์กรต่าง ๆ ก้าวสู่ระยะถัดไปของการพลิกโฉมด้วย AI พวกเขาจำเป็นต้องมีรากฐานความไว้วางใจและความมั่นใจที่แข็งแกร่งเพื่อใช้ต่อยอด" Harpreet Sidhu หัวหน้าฝ่ายความมั่นคงปลอดภัยไซเบอร์ระดับโลกของ Accenture กล่าว "โครงการอย่างเช่นโครงการนี้ของ Microsoft ที่ใช้แนวทางแบบเปิดและขับเคลื่อนโดยภาคอุตสาหกรรมเพื่อส่งเสริมความโปร่งใสของ AI สามารถช่วยเราในการรักษาความปลอดภัยให้แก่โมเดล AI ตลอดจนกำหนดมาตรการควบคุมและการกำกับดูแลที่เหมาะสม Accenture ภูมิใจที่ได้ร่วมมือกับ Microsoft และผู้นำรายอื่น ๆ ในด้านนี้"
มองเห็น ตรวจสอบยืนยัน และควบคุม
Microsoft เชื่อว่าทุกองค์กรควรสามารถมองเห็นว่าระบบ AI เข้าถึงและดำเนินการอะไร ตรวจสอบยืนยันการดำเนินการเหล่านั้นได้อย่างเป็นอิสระ และควบคุมสิ่งที่ระบบได้รับอนุญาตให้ทำ
- มองเห็น: ทราบว่า AI ได้รับคำขอและได้รับอนุญาตให้ทำอะไร มีการใช้โมเดลและสภาพแวดล้อมการทำงานใด เข้าถึงข้อมูลและเครื่องมืออะไร และดำเนินการอะไรไปบ้าง ติดตามกิจกรรมของเอเจนต์และสัญญาณความเสี่ยงอย่างต่อเนื่องโดยเทียบกับนโยบายและเกณฑ์ที่กำหนด
- ตรวจสอบยืนยัน: เอเจนต์ไม่สามารถเป็นแหล่งข้อมูลข้อเท็จจริงเพียงแหล่งเดียวเกี่ยวกับพฤติกรรมของตนเองได้ และไม่อาจไว้วางใจให้โมเดล AI ขั้นแนวหน้ากำกับดูแลตนเองได้ หลักฐานที่ครอบคลุมอัตลักษณ์ของเอเจนต์ เจตนาของงานที่ได้รับมอบหมาย และการดำเนินการ ควรระบุแหล่งที่มาของหลักฐาน (ตัวโมเดล สภาพแวดล้อมการทำงานรอบโมเดล หรือระบบอิสระ เช่น ระบบจัดการอัตลักษณ์และนโยบาย) เพื่อให้สามารถตรวจสอบสัญญาณที่โมเดลรายงานเทียบกับบันทึกที่ได้จากการสังเกตการณ์อย่างเป็นอิสระ องค์กรควรสามารถตรวจสอบยืนยันกิจกรรมของ AI ได้อย่างเป็นอิสระโดยใช้ระบบรักษาความปลอดภัยและระบบกำกับการปฏิบัติตามข้อกำหนดของตนเอง โดยไม่ต้องอาศัยเพียงคำอธิบายพฤติกรรมของโมเดลจากผู้ให้บริการ
- ควบคุม: รักษาอำนาจในการกำหนดว่า AI ได้รับอนุญาตให้ทำอะไร หลักฐานที่ชัดเจนเกี่ยวกับวัตถุประสงค์ เจ้าของ ข้อมูล และอำนาจที่ได้รับมอบหมายของแต่ละเวิร์กโฟลว์ ช่วยให้องค์กรบังคับใช้นโยบายได้ก่อนเกิดการดำเนินการที่มีผลกระทบสำคัญ และตรวจสอบย้อนหลังได้ว่าเกิดอะไรขึ้นในระหว่างการสืบสวน การควบคุมและจำกัดขอบเขตความเสียหาย การกู้คืน และการตรวจสอบ หลักฐานดังกล่าวควรอยู่กับองค์กรต่อไปแม้มีการเปลี่ยนโมเดลหรือผู้ให้บริการ องค์กรควรยังคงมีอำนาจควบคุมว่าเอเจนต์ของตนสามารถเข้าถึงข้อมูลใดได้บ้าง และจะกำกับดูแลการเข้าถึงนั้นอย่างไร ไม่ว่าจะใช้โมเดลหรือผู้ให้บริการรายใดก็ตาม
ร่วมเป็นส่วนหนึ่งของโครงการ
องค์กรที่สนใจร่วมกำหนดทิศทางของโครงการหรือติดตามความคืบหน้าสามารถศึกษาข้อมูลเพิ่มเติมและลงทะเบียนได้ที่ aka.ms/learnmoreAItransparency
ติดตามข่าวสารจากงาน Microsoft Ignite ซึ่ง Microsoft และผู้นำในอุตสาหกรรมจะแบ่งปันข้อมูลเชิงลึกเกี่ยวกับแนวทางที่องค์กรสามารถใช้บริหารจัดการโมเดลและเอเจนต์ AI ได้อย่างมั่นใจ สามารถดูข้อมูลเพิ่มเติมได้ที่บล็อก Microsoft Security
The information provided in this article was created by Cision PR Newswire, our news partner. The author's opinions and the content shared on this page are their own and may not necessarily represent the perspectives of Thailand Business Directory.
