เมื่อพูดถึงคำว่า "กล่องดำ" หรือ "black box" เชื่อว่าคนส่วนใหญ่จะนึกถึงอุปกรณ์บันทึกภาพบนเครื่องบิน ที่สามารถนำมาวิเคราะห์หากเกิดเหตุไม่คาดฝันขึ้น แต่ทั้งนี้ กล่องดำยังเป็นส่วนประกอบที่สำคัญในโลกของปัญญาประดิษฐ์ (AI)
กล่องดำในโลกของ AI หมายถึง ระบบการทำงานภายในของ AI ที่ผู้ใช้ไม่สามารถมองเห็น โดยสามารถใส่ข้อมูล (input) และรับข้อมูล (output) ได้ แต่จะไม่สามารถตรวจสอบรหัสของระบบหรือตรรกะที่สร้างข้อมูลได้
การเรียนรู้ของปัญญาประดิษฐ์เป็นส่วนสำคัญที่ทำให้เกิด ChatGPT และ DALL-E 2 ซึ่งการเรียนรู้ของปัญญาประดิษฐ์นั้น มี องค์ประกอบ 3 อย่าง คือ อัลกอริทึม (algorithms) ข้อมูลเพื่อใช้ในการฝึกฝน (training data) และโมเดล (model) โดยอัลกอริทึม เป็นชุดของขั้นตอน ซึ่งในแมชชีนเลิร์นนิง อัลกอริทึมจะเรียนรู้จากข้อมูลจำนวนมาก หลังจากนั้น ผลลัพธ์ที่ได้คือโมเดลการเรียนรู้ของเครื่องหรือก็คือโมเดลที่ผู้คนใช้นั่นเอง ทั้งนี้ ส่วนประกอบใดๆ ในสามส่วนของระบบแมชชีน
เลิร์นนิงนี้ สามารถซ่อนในกล่องดำได้ ซึ่งโดยปกติแล้ว อัลกอริทึมจะมีการเปิดเผยโดยทั่วไป แต่ทั้งนี้ นักพัฒนา AI มักจะปิดบังข้อมูลที่ใช้และโมเดลไว้ในกล่องดำ เพื่อเป็นการปกป้องทรัพย์สินทางปัญญา แต่ทั้งนี้ เมื่อมีกล่องดำแล้ว ก็มีกล่องแก้ว (glass box) หรือกล่องขาว ที่ทุกคนสามารถดูอัลกอริทึม ข้อมูล และแบบจำลองได้
กล่องดำ-กล้องแก้ว ฟังดูยังคงเป็นเรื่องไกลตัวสำหรับคนทั่วๆ ไป แต่ทั้งนี้ การนำปัญญาประดิษฐ์เริ่มขยายวงกว้าง ซึ่งหากลองจินตนาการการใช้งานกับเรื่องใกล้ตัว สมมติว่าโมเดลการเรียนรู้ได้ถูกนำมาใช้เพื่อทำการวินิจฉัยเกี่ยวกับสุขภาพของ
คนเรา คนเราอยากได้แบบกล่องดำหรือกล่องแก้วเกี่ยวกับการรักษาของแพทย์ หรือหากเป็นเรื่องทางการเงิน จะเกิดอะไรขึ้นหากโมเดลการเรียนรู้เป็นตัวที่กำหนดว่า เรามีคุณสมบัติในการขอสินเชื่อธุรกิจจากธนาคารหรือไม่ ซึ่งเชื่อว่าหลายๆ คนเริ่มสงสัยว่าการตัดสินใจเหล่านี้มาได้อย่างไร แล้วหากเราทราบที่มาของการตัดสินใจ เราจะสามารถแก้ไขหรือเพิ่มโอกาสในการได้รับเงินกู้ในครั้งต่อไปได้อย่างไร
นอกจากนี้ กล่องดำยังมีความสำคัญต่อความปลอดภัยของระบบซอฟต์แวร์ ซึ่งคนในแวดวงคอมพิวเตอร์คิดว่าการเก็บซอฟต์แวร์ไว้ในกล่องดำจะป้องกันไม่ให้แฮ็กเกอร์ตรวจสอบได้ ดังนั้นซอฟต์แวร์จึงปลอดภัย ซึ่งบางกลุ่มกลับมองว่า เป็นมุมมองที่ไม่ถูกต้องเนื่องจากแฮ็กเกอร์สามารถย้อนกระบวนการ เพื่อเจาะข้อมูลหรือถอดแบบการทำงานของซอฟต์แวร์ได้ นอกจากนี้ สำหรับซอฟต์แวร์ที่อยู่ในกล่องแก้ว บางมุมมองเห็นว่า จะช่วยให้ผู้ทดสอบซอฟต์แวร์และแฮ็กเกอร์(ที่มีเจตนาดี) สามารถตรวจสอบซอฟต์แวร์ดังกล่าวได้ ช่วยให้ผู้สร้างซอฟต์แวร์ทราบถึงจุดอ่อน ซึ่งจะช่วยลดการโจมตีทางไซเบอร์ให้เหลือน้อยที่สุด