เจาะข้อสอบสัมภาษณ์ AI Engineer จาก OpenAI ถึง Meta

การเตรียมตัวสอบสัมภาษณ์งานในตำแหน่ง AI Engineer มักเป็นเรื่องน่าปวดหัวที่มีทั้งแท็บเบราว์เซอร์นับสิบ โพสต์บน Reddit จากปี 2023 คลิปวิดีโอ YouTube และงานวิจัยที่อ่านค้างไว้ครึ่งๆ กลางๆ โดยที่ไม่รู้เลยว่าบริษัทเป้าหมายจะถามอะไรกันแน่

จากการรวบรวมรายงานการสัมภาษณ์สาธารณะจำนวน 270 ฉบับ ซึ่งมาจากบันทึกและวิดีโอที่ผู้สมัครระบุชื่อบริษัทและคำถามจริง แล้วนำมาจัดหมวดหมู่ตามบริษัท ทำให้เห็นความจริงข้อแรกว่า ห้องปฏิบัติการ AI ชั้นนำแต่ละแห่งมีบุคลิกและแนวทางการคัดเลือกที่แตกต่างกันอย่างชัดเจน การเตรียมตัวแบบกว้างๆ จึงแทบใช้ไม่ได้ผลกับที่ไหนเลย

สำหรับแนวทางคำถามของแต่ละบริษัทมีรายละเอียดที่น่าสนใจดังนี้:

• OpenAI: เน้นโจทย์การออกแบบระบบ (System Design) ที่พ่วงข้อจำกัดทางวิศวกรรมที่เข้มงวด ทั้งเรื่องความหน่วง (Latency) ต้นทุน สิทธิ์การใช้งาน และระบบมัลติเทแนนต์ สิ่งที่พวกเขาทดสอบคือความสามารถในการสร้างระบบที่รองรับการใช้งานจริงในระดับโปรดักชัน ไม่ใช่แค่เดโม
• Anthropic: เนโจทย์ที่อ่านดูคล้ายข้อสอบโครงสร้างพื้นฐาน โดยคาดหวังให้ผู้สมัครคำนวณตัวเลขคร่าวๆ (Back-of-envelope estimates) ได้ทันทีบนโต๊ะ สิ่งที่พวกเขาทดสอบคือการคิดเป็นไบต์ แบนด์วิดท์ และคอขวด ก่อนที่จะคิดถึงกล่องและลูกศรในแผนผัง
• Mistral: เจาะลึกถึงโครงสร้างภายในของโมเดล ผู้สมัครจะต้องเขียนโค้ดจริง สิ่งที่ทดสอบคือความเข้าใจสิ่งที่อยู่ภายในโมเดล ตั้งแต่ Layer Normalization, KV Cache ไปจนถึง Optimizer
• Meta: สำหรับตำแหน่งอาวุโส จะเน้นโจทย์การออกแบบระบบขนาดใหญ่ที่เปิดกว้าง โดยเฉพาะเรื่องเอเจนต์และผู้ช่วยเขียนโค้ด สิ่งที่ทดสอบคือการประเมินขอบเขตระบบ การแยกแยะระหว่างโค้ด LLM และโค้ดแบบกำหนดวิธี (Deterministic code)

คำถามที่ถูกรายงานไว้มากที่สุดในชุดข้อมูลนี้คือการให้เขียนฟังก์ชัน Implement batched multi-head self-attention with a causal mask ซึ่งพบที่ Mistral AI, ByteDance, Meta, Apple และ Uber รวมถึึงตัวเลือก KV-cache ที่พบใน OpenAI, Netflix และ Mistral ทำให้การฝึกเขียน Attention จากไฟล์เปล่าๆ เป็นชั่วโมงที่มีค่าที่สุดในการเตรียมตัว

ภาพประกอบจากคลังภาพสต็อก ไม่ใช่ภาพจากเหตุการณ์จริง

ที่มา: Dev.to