เริ่มนำ AI มาใช้ภายในบริษัทที่ประเทศไทย

พนักงานอยากใช้ ChatGPT หรือ Claude ในการทำงาน ฝ่ายบริหารและ IT ไม่อยากให้เอกสารภายในหลุดออกนอกบริษัท ทั้งสองฝ่ายไม่ยอมถอย สุดท้ายพนักงานก็แอบใช้ผ่านแอคเคาท์ส่วนตัวเงียบ ๆ สภาพแบบนี้ไม่ใช่เรื่องแปลกที่บริษัทญี่ปุ่นในประเทศไทย

สิ่งที่เราเสนอคือวาง AI ไว้ในบริษัทเอง เปิดให้เข้าถึงได้เฉพาะจาก LAN ภายในหรือผ่านแอคเคาท์พนักงาน การสนทนาไม่ออกจากบริษัท พนักงานจึงส่งเอกสารที่มีข้อมูลลับเข้าไปได้ตามปกติ เราประกอบระบบไว้พร้อมแล้ว และสามารถจัดเดโมจริงที่หน้างานให้บริษัทในไทยที่กำลังพิจารณานำ AI มาใช้ภายในบริษัท

สิ่งที่พนักงานเรียกร้อง

ในช่วง 6 เดือนที่ผ่านมา คำขอที่ได้ยินจากลูกค้ามีประมาณนี้:

• สรุปบันทึกการประชุม
• ร่างคำแปลระหว่างภาษาญี่ปุ่น ไทย และอังกฤษ
• ร่างและตรวจโค้ด / SQL
• ร่างเอกสารเสนอราคาและเอกสารเสนอภายใน
• ตอบคำถามจากคู่มือภายใน ("นโยบายนั้นอยู่ที่ไหนนะ")
• ร่างแรกของอีเมลตอบลูกค้า

ทุกข้อทำให้ทำงานเร็วขึ้น ข้อควรระวังคือ ในข้อมูลที่พนักงานจะป้อนเข้าไปมักปนสิ่งที่ไม่ควรหลุดออกนอกบริษัท ชื่อลูกค้า ราคาต่อหน่วย เงื่อนไขสัญญา ผังองค์กร แผนงานที่ยังไม่ประกาศ และข้อมูลส่วนบุคคล

ประเด็นการใช้ generative AI ภายนอกตรง ๆ ในงาน

ถ้าใช้ ChatGPT หรือ Claude แบบแผนส่วนตัวหรือแผน Team ในงาน มีจุดที่ควรตรวจสอบ:

• ข้อมูลป้อนเข้าจะถูกใช้ในการฝึกโมเดลในอนาคตหรือไม่ (แผนสำหรับองค์กรมักปิดโดยดีฟอลต์ แต่ขึ้นอยู่กับสัญญาและตัวเลือก)
• บันทึกการสนทนาอยู่ที่ฝั่งผู้ให้บริการ ถ้าถูกเจาะแอคเคาท์หรือส่งผิด ข้อมูลจะอยู่นอกบริษัท
• ข้อมูลที่อยู่ในขอบเขต PDPA หรือ NDA ถูกส่งไปยังคลาวด์ของบุคคลที่สามที่อยู่นอกขอบเขตสัญญาหรือไม่
• การใช้ผ่านแอคเคาท์ส่วนตัวมองไม่เห็นจากบริษัท ตามไม่ได้ว่าอะไรถูกส่งไปที่ไหน

แผนสำหรับองค์กรลดความกังวลส่วนใหญ่ลง แต่ยังมีอุตสาหกรรมและโครงการที่ "ข้อมูลลูกค้าออกไปยังคลาวด์ภายนอกไม่ว่าที่ใดก็รับไม่ได้" การแพทย์ การเงิน ที่เกี่ยวข้องกับกลาโหม หรือกรณีที่สำนักงานใหญ่ในญี่ปุ่นห้ามอย่างชัดเจน

ทางเลือกการนำ AI มาใช้ภายในบริษัท

โมเดล AI ที่เผยแพร่แบบ open-source รันบนเซิร์ฟเวอร์ (หรือเครื่องเฉพาะที่มี GPU) ที่บริษัทของท่านจัดการเองได้ การสนทนาไม่ออกจากบริษัท และบันทึกก็อยู่ฝั่งท่านเอง

ไม่กี่ปีก่อน "AI แบบ open-source ใช้จริงได้เฉพาะภาษาอังกฤษ" คือความจริง แต่โมเดลรุ่นล่าสุดทำให้ภาษาญี่ปุ่นอยู่ในระดับที่ใช้กับงานได้ ภาษาไทยก็มาถึงระดับใช้ได้จริงขึ้นอยู่กับโมเดลที่เลือก บริษัทญี่ปุ่นในไทยจึงสามารถพิจารณานำ AI มาใช้ภายในบริษัทได้อย่างเป็นจริงเป็นจัง

โครงสร้างที่เราเสนอ

เราวางเครื่องเฉพาะที่มี GPU (ขนาดเล็กคือ workstation PC ขนาดใหญ่ขึ้นคือเซิร์ฟเวอร์) ไว้ที่ออฟฟิศของท่าน เปิดให้เข้าถึงได้เฉพาะจาก LAN ภายในหรือผ่านแอคเคาท์พนักงาน เส้นทางออกอินเทอร์เน็ตปิดโดยดีฟอลต์

• ฮาร์ดแวร์: PC หรือเซิร์ฟเวอร์ที่มี GPU เลือกตามจำนวนผู้ใช้พร้อมกันและขนาด AI ที่ต้องการรัน
• OS: Ubuntu (Linux)
• chat UI ภายใน: พนักงานใช้จากเบราว์เซอร์ด้วยความรู้สึกใกล้เคียง ChatGPT
• การค้นหาเอกสารภายใน: คู่มือภายใน บันทึกการประชุม โครงการเก่า เป็นแหล่งค้นหา ให้โมเดลตอบพร้อมแหล่งอ้างอิง
• การควบคุมการเข้าถึง: LAN ภายในเท่านั้น หรือจำกัดที่แอคเคาท์พนักงาน จากภายนอกผ่าน VPN

ไม่จำเป็นต้องมีห้องเซิร์ฟเวอร์หรือ rack เฉพาะ เริ่มจากขนาดที่วางในมุมของออฟฟิศได้ก็พอ โมเดล AI ที่เราจะใช้เลือกหลังจากสัมภาษณ์งานของท่าน หลักในภาษาญี่ปุ่น จัดการเอกสารภาษาไทย หรือรวมการช่วยเขียนโค้ด แต่ละแบบเปลี่ยนโมเดลที่เหมาะสม

ต้นทุน

ตัวเลขที่กำหนดราคาคือ จำนวนผู้ใช้พร้อมกัน จำนวนพนักงานเท่ากัน แต่สภาพแวดล้อมที่ 10 คนใช้ตลอดกับ 3 คนใช้บางครั้ง GPU ที่ต้องการต่างกัน

• ขนาดเล็ก (พร้อมกัน 5-10 คน สรุปและแปลเป็นหลัก): เริ่มต้น 200,000-400,000 บาท
• ขนาดกลาง (พร้อมกัน 20-30 คน รวม Q&A ภายในและร่างเอกสาร): เริ่มต้น 700,000-1,200,000 บาท
• ขนาดใหญ่ (พร้อมกัน 50 คนขึ้นไป หลายกรณีการใช้งานพร้อมกัน): เริ่มต้น 2,000,000 บาทขึ้นไป

ตัวเลขรวมเครื่องเฉพาะ GPU งานเซ็ตอัพและการปรับจูน งานเดินสายเครือข่าย UPS และการขยาย rack จะประเมินแยกหากจำเป็น

เป็นการซื้อขาด ค่าใช้จ่ายรายเดือนจากนี้จึงเป็นเพียงค่าไฟและการดูแล ต่างจากค่าใช้จ่ายตามการใช้งานของ AI ภายนอกหรือค่าใช้จ่ายต่อผู้ใช้ของแผนองค์กร การเพิ่มพนักงานที่ลงทะเบียนไม่ทำให้ค่ารายเดือนเปลี่ยน ราคาจะขยับก็เมื่อจำนวนผู้ใช้พร้อมกันเกินขีดของฮาร์ดแวร์ปัจจุบัน ในกรณีนั้นเราเพิ่ม GPU ในทางกลับกัน อุปสรรคคือการลงทุนตั้งต้นและการหาที่ตั้งเครื่องจริงได้

เมื่อไม่เหมาะ

บางกรณี การสมัครใช้บริการ AI ภายนอกตรง ๆ เป็นทางเลือกที่ดีกว่า:

• งานที่ต้องการความแม่นยำระดับ frontier model (โมเดลระดับสูงสุดของ ChatGPT หรือ Claude) ตลอดเวลา โมเดล open-source ยังตามไม่ทันในจุดนี้
• ผู้ใช้แค่ไม่กี่คน หลายสิบชั่วโมงต่อเดือน แผนองค์กรถูกกว่าอย่างชัดเจน
• ไม่มีคนภายในหรือ retainer ที่ตามการเลือกโมเดล อัปเดต และการทำ tuning ตั้งแล้วปล่อยจะเก่าภายในไม่กี่เดือน

เดโมจริง

เราประกอบโครงสร้างไว้พร้อมและยืนยันการทำงานแล้ว ที่หน้างานเราสามารถรัน PoC / เดโมในรูปแบบนี้:

• สัมภาษณ์การใช้งานที่ท่านคาดหวังสัก 2-3 กรณี (สรุปการประชุม, Q&A ภายใน, การแปล ฯลฯ)
• แสดงโครงสร้างที่จับคู่กับการใช้งานนั้น ทำงานอยู่จริง
• ป้อนเอกสารที่ไม่เป็นความลับของท่านเข้าไป ตรวจความแม่นยำของการค้นหาเอกสารภายใน
• ใช้ chat UI จริง ตัดสินความแม่นยำ การตอบสนอง และความรู้สึกใช้งาน
• ตัดสินใจว่าจะเข้าสู่ production ปรับโครงสร้าง หรือกลับไปใช้บริการ AI ภายนอก

ตั้งจุดตั้งต้นที่ "ลองก่อน ดูว่าทำอะไรได้บ้าง" 2-3 สัปดาห์เพียงพอสำหรับมีวัสดุตัดสินใจในมือ

ที่เกี่ยวข้อง: จุดบอดด้านความปลอดภัยไซเบอร์ 7 ประการที่บริษัทญี่ปุ่นในไทยมักมองข้าม / มาตรการความปลอดภัยในการพัฒนาระบบในไทย / เริ่มโครงการพัฒนาระบบในไทยด้วย PoC

หากท่านพิจารณานำ AI มาใช้ภายในบริษัทที่ประเทศไทย และอยากให้พนักงานใช้ AI ในการทำงานโดยไม่ให้ข้อมูลลับหลุดออกจากบริษัท ติดต่อเราได้เลย เยี่ยมสำนักงานของเราที่กรุงเทพฯ หรือให้เดโมที่หน้างานของท่านก็ได้