ข้ามไปยังเนื้อหาหลัก
Back to InsightsAI

วงจรความตายของระบบ — และวิธีที่เอไอเอเจนต์ทำลายมัน

By James Huang29 สิงหาคม 2569·Updated 30 ส.ค. 256910 min read
AI Generated Cover for: The System Death Spiral — and How AI Agents Broke It

วงจรความตายของระบบ — และวิธีที่เอไอเอเจนต์ทำลายมัน

TL;DR:หลังจากสร้างระบบมาแปดปี ฉันค้นพบรูปแบบที่คาดเดาได้: ทุกระบบในที่สุดจะกลายเป็นสิ่งที่ใช้งานไม่ได้เนื่องจากช่องว่างระหว่างการออกแบบการทำงานและความซับซ้อนในโลกจริง ช่องว่างนี้เกิดจากความคิดสร้างสรรค์ของมนุษย์ ข้อจำกัดด้านเวลา เครื่องมือที่ทับซ้อนกัน และหนี้เอกสาร ฉันหยุดพยายามสร้างระบบที่สมบูรณ์แบบ แทนที่จะเป็นเช่นนั้น ฉันได้สร้างตัวแทน AI สามตัวที่จัดการการป้อนข้อมูล การตรวจจับความผิดปกติ และการแพตช์ระบบ — สร้างโครงสร้างพื้นฐานที่สามารถรักษาตัวเองได้ซึ่งกำจัดช่องว่างแทนที่จะจัดการกับมัน.


รูปแบบที่ไม่มีใครพูดถึง

ตั้งแต่ปี 2016 Mercury ได้สร้างและทดลองกับระบบมากมาย

เราสร้าง ERP และ CRM ของเราเอง กำหนดการทำงานของเรา ใช้เครื่องมือสำเร็จรูปและเชื่อมต่อเข้าด้วยกันด้วย Zapier, n8n และการรวมระบบที่กำหนดเอง เราภูมิใจในสแต็กของเรา มันรู้สึกซับซ้อน มันรู้สึกเหมือนเรากำลังทำในสิ่งที่บริษัทสมัยใหม่ควรทำ

แต่ในช่วงหกเดือนที่ผ่านมา ฉันมองย้อนกลับไปที่แปดปีที่ผ่านมาและเห็นสิ่งที่ฉันไม่อยากเห็น:

วงจรแห่งความตาย และมันอยู่ทุกที่

นี่คือวิธีการทำงาน คุณสร้างระบบ คุณกำหนดการทำงาน กรณีการใช้งานถูกจำกัดอยู่ในการทำงานนั้นโดยการออกแบบ จากนั้นธุรกิจเติบโต สถานการณ์ใหม่เกิดขึ้น กรณีขอบเพิ่มขึ้น ผู้คนเริ่มใช้ระบบในวิธี "สร้างสรรค์" ที่มันไม่เคยตั้งใจให้ใช้ ข้อมูลจบลงในฟิลด์ที่ผิด รายงานกลายเป็นสิ่งที่ไม่น่าเชื่อถือ ใครบางคนสร้างสเปรดชีตเงาเพื่อ "แก้ไข" ปัญหา ตอนนี้คุณมีแหล่งข้อมูลความจริงสองแห่ง จากนั้นสามแห่ง

ช่องว่างระหว่างระบบและความเป็นจริงยังคงขยายออกไป

ในที่สุด ระบบก็ไม่สามารถใช้งานได้ ไม่ใช่เพราะเทคโนโลยีล้มเหลว แต่เพราะ ระยะห่าง ระหว่างสิ่งที่ระบบคาดหวังและสิ่งที่ธุรกิจทำจริงนั้นกว้างเกินกว่าจะเชื่อมต่อได้

ที่เมอร์คิวรี่นี้เกิดขึ้นอย่างช้าๆ ข้อมูล CRM ของเราไม่ได้อยู่ใน CRM ของเรา แต่มันอยู่ในแพลตฟอร์มการส่งข้อความของเรา, แกนหลักของ CRM, บันทึกการโทร PBX และเธรดอีเมล ลูกค้าเดียวกัน มีการแสดงผลที่แตกต่างกันห้าประการ ไม่มีใครที่สอดคล้องกันอย่างเต็มที่ เมื่อเราทำรายงานประจำไตรมาส การปรับสมดุลแหล่งข้อมูลเหล่านี้ใช้เวลาหลายวัน บางครั้งเราพบความไม่ตรงกันที่มีอยู่มาเป็นเดือน — ข้อมูลที่ถูกป้อน "อย่างสร้างสรรค์" โดยพนักงานที่พบว่ากระบวนการทำงานอย่างเป็นทางการนั้นเข้มงวดเกินไปสำหรับสถานการณ์จริงของลูกค้า

ฉันได้เห็นรูปแบบนี้ที่บริษัทลูกค้า ฉันได้เห็นมันที่องค์กรที่มีแผนก IT ร้อยคน กลไกต่างกัน แต่รูปแบบนี้เป็นสากล


ช่องว่างมาจากไหน

ช่องว่างมีสี่แหล่งที่มา ไม่มีแหล่งใดที่เป็นเทคนิค

ความคิดสร้างสรรค์ของมนุษย์.พนักงานของคุณไม่ใช่หุ่นยนต์ เมื่อระบบไม่เหมาะกับสถานการณ์ พวกเขาจะปรับตัว พวกเขาใส่ข้อมูลในฟิลด์ที่เป็นทางเลือก พวกเขาใช้ส่วน "หมายเหตุ" สำหรับข้อมูลที่มีโครงสร้าง พวกเขาสร้างกระบวนการคู่ขนานนอกระบบเพราะมันเร็วกว่าในการรอให้ฝ่าย IT แก้ไขบางอย่าง.

เวลา.แม้ว่าคุณจะระบุช่องว่างได้ การแก้ไขต้องใช้เวลา มักจะมีความสำคัญสูงกว่าที่ต้องทำ ช่องว่างจะนั่งอยู่ในรายการที่รอการดำเนินการเป็นเวลาหลายเดือน ในขณะเดียวกัน วิธีการที่เป็นทางเลือกกลายเป็นเรื่องปกติใหม่.

การตัดสินใจ.คุณควรแก้ไขอะไร? ทำไม? ตามลำดับใด? องค์กรส่วนใหญ่ไม่สามารถตอบคำถามนี้ได้อย่างชัดเจน ช่องว่างยังคงมีอยู่เพราะไม่มีใครมีอำนาจและบริบทในการตัดสินใจว่า "ถูกต้อง" หมายถึงอะไร.

เอกสาร.เมื่อมีคนเอกสารวิธีการทำงานของทางเลือกแล้ว ทางเลือกใหม่อีกสามทางก็เกิดขึ้น เอกสารมักจะตามหลังความเป็นจริง บางครั้งมันทำให้เข้าใจผิดอย่างตั้งใจ.

และจากนั้นก็มีปัจจัยที่ซ้อนทับ:การทับซ้อน.

ข้อมูล CRM ของคุณไม่ได้อยู่ใน CRM ของคุณ มันอยู่ในแพลตฟอร์มการส่งข้อความของคุณ, แกน CRM ของคุณ, ระบบ PBX ของคุณ, เธรดอีเมลของคุณ, และบันทึกส่วนตัวของตัวแทนขาย ลูกค้าเดียวกัน ตัวแทนห้ารูปแบบที่แตกต่างกัน ไม่มีใครที่สอดคล้องกันอย่างเต็มที่ เมื่อคุณรันรายงาน อันไหนที่เป็นความจริง?

นี่ไม่ใช่ข้อบกพร่อง นี่คือสภาพธรรมชาติขององค์กรใด ๆ ที่มีอยู่มากกว่าสองปี


คำตอบแบบดั้งเดิม (และเหตุผลที่มันล้มเหลว)

คำตอบแบบดั้งเดิมคือการสร้างระบบที่ดีกว่า ยืดหยุ่นมากขึ้น ปรับแต่งได้มากขึ้น และ "กันอนาคต" มากขึ้น

ฉันเคยลองสิ่งนี้แล้ว มันไม่ได้ผล

ยิ่งคุณทำให้ระบบยืดหยุ่นมากขึ้นเท่าไหร่ มันก็ยิ่งซับซ้อนมากขึ้นเท่านั้น ยิ่งมันซับซ้อนมากขึ้นเท่าไหร่ ช่องว่างระหว่างความสามารถที่ออกแบบและการใช้งานจริงก็ยิ่งกว้างขึ้น Flexibility ไม่ได้กำจัดช่องว่าง มันแค่ย้ายไปยังระดับนามธรรมที่สูงขึ้น

ผู้จำหน่ายซอฟต์แวร์องค์กรได้ขาย "ความยืดหยุ่น" มานานหลายทศวรรษ ทุกการนำไปใช้งานเริ่มต้นด้วย "เราจะปรับแต่งให้เข้ากับกระบวนการทำงานของคุณ" และจบลงด้วย "กระบวนการทำงานของคุณต้องเปลี่ยนแปลงให้ตรงกับระบบ" ช่องว่างนี้มักจะชนะเสมอ


สิ่งที่ฉันสร้างขึ้นแทน

เมื่อประมาณหนึ่งเดือนที่แล้ว ฉันหยุดพยายามสร้างระบบที่สมบูรณ์แบบ

แทนที่จะเป็นเช่นนั้น ฉันออกแบบสำหรับช่องว่างเอง

ฉันสร้างตัวแทน AI สามตัว ไม่ใช่แชทบอท ไม่ใช่ผู้ช่วย แต่เป็นชั้นการดำเนินงานที่นั่งอยู่ระหว่างมนุษย์และระบบและจัดการกับความยุ่งเหยิงที่มักสะสมอยู่เสมอ

ตัวแทนที่หนึ่ง: จุดเข้าถึง

พนักงานมีปฏิสัมพันธ์กับตัวแทนนี้สำหรับการป้อนข้อมูล ใช้ภาษาธรรมชาติ ไม่มีแบบฟอร์ม ไม่มีฟิลด์ ตัวแทนจะถามคำถามเพื่อชี้แจง จัดระเบียบข้อมูล และเขียนไปยังสถานที่ที่ถูกต้องในรูปแบบที่ถูกต้อง หากสถานการณ์ไม่ตรงกับหมวดหมู่ที่มีอยู่ มันจะไม่บังคับให้เสียบแท่งสี่เหลี่ยมเข้าไปในรูกลม มันจะทำการแจ้งเตือน

ตัวแทนที่สอง: นักวิเคราะห์

เมื่อเอเจนต์หนึ่งตรวจพบความผิดปกติ — สิ่งที่ไม่เข้ากับโครงสร้างปัจจุบัน รูปแบบใหม่ วิธีการที่กำลังดำเนินการ — มันจะส่งต่อไปยังเอเจนต์สอง เอเจนต์นี้จะวิเคราะห์ความผิดปกติ ระบุสาเหตุที่แท้จริง และสร้างรายงาน: เกิดอะไรขึ้น ทำไมถึงเกิดขึ้น การเปลี่ยนแปลงในระบบที่จะกำจัดช่องว่าง และการแลกเปลี่ยนที่เกิดขึ้นคืออะไร

รายงานมาถึงโต๊ะของฉัน ฉันตรวจสอบมัน ฉันอนุมัติหรือปรับเปลี่ยนคำแนะนำ

เอเจนต์สาม: ผู้ดำเนินการ

เมื่อได้รับการอนุมัติ เอเจนต์สามจะดำเนินการ มันจะแก้ไขระบบ อัปเดตโครงสร้าง ปรับเปลี่ยนการรวมระบบ เขียนเอกสาร และมันทำเช่นนี้ไม่ใช่เป็นโครงการครั้งเดียว แต่เป็นกระบวนการต่อเนื่อง

ช่องว่างไม่สะสมอีกต่อไป มันถูกปิดในเวลาจริง

ผลลัพธ์ แม้ในเดือนแรกนี้ ก็ชัดเจน วงจรการแก้ไขช่องว่างเฉลี่ยของเรา — เวลาระหว่างการระบุความไม่ตรงกันของระบบ-การทำงานและการแก้ไขมัน — เคยถูกวัดเป็นไตรมาส ในต้นปี 2026 เราได้บีบให้เหลือประมาณสองสัปดาห์ผ่านการควบคุมกระบวนการที่ดีขึ้น ด้วยเอเจนต์สามตัว วงจรปัจจุบันคือ น้อยกว่าสี่ชั่วโมง สำหรับการเปลี่ยนแปลงที่ไม่ใช่โครงสร้าง และ วันเดียวกันสำหรับการปรับระดับสคีมาที่ต้องการการอนุมัติจากฉัน

สเปรดชีตเงากำลังหายไป ไม่ใช่เพราะเราบังคับให้เป็นเช่นนั้น แต่เพราะระบบตอนนี้สะท้อนความเป็นจริงได้อย่างถูกต้องเพียงพอที่ผู้คนไม่ต้องการวิธีการที่หลบเลี่ยง

นี่คือหลักการเดียวกันที่เป็นรากฐานของวิธีการ GEO ของเรา กรอบการตรวจสอบ GEO ที่เป็นเอกภาพของเรา — ซึ่งให้คะแนน mtsoln.com ที่ 82 (วิธีการ A 91, วิธีการ B 76) ในการตรวจสอบใหม่เมื่อวันที่ 27 สิงหาคม — สร้างขึ้นจากการปิดช่องว่างอย่างต่อเนื่อง ไม่ใช่การปรับแต่งครั้งเดียว ช่องว่างระหว่างวิธีที่ระบบ AI แสดงแบรนด์ของคุณและวิธีที่คุณดำเนินการจริง ๆ จะไม่ปิดในโครงการ มันจะปิดผ่านการสังเกตและการปรับตัวอย่างต่อเนื่อง เรานำสิ่งนี้ไปใช้กับไซต์ของลูกค้า ตอนนี้เรากำลังนำไปใช้กับโครงสร้างพื้นฐานของเราเอง


สิ่งนี้หมายความว่าอย่างไร

นี่ไม่ใช่การทำงานอัตโนมัติ การทำงานอัตโนมัติถือว่ากระบวนการนั้นเป็นที่รู้จักและสามารถทำซ้ำได้ นี่คือสิ่งที่แตกต่าง นี่คือโครงสร้างพื้นฐานที่ปรับตัวได้.

ระบบไม่ได้พยายามคาดการณ์กรณีการใช้งานทุกกรณี มันไม่จำเป็นต้องทำเช่นนั้น มันสังเกตสิ่งที่เกิดขึ้นจริง ระบุความเบี่ยงเบน และพัฒนาเพื่อรองรับสิ่งเหล่านั้น ระบบที่ "สมบูรณ์แบบ" กลายเป็นสิ่งที่ไม่จำเป็นเพราะระบบไม่เคยเสร็จสิ้น — มันกำลังพัฒนาให้แม่นยำมากขึ้นต่อความเป็นจริงอย่างต่อเนื่อง。

แนวทางนี้เป็นพื้นฐานของสองสิ่งที่ Mercury:

บริการ GEO ของเรา.การเพิ่มประสิทธิภาพเครื่องยนต์สร้างสรรค์ไม่ได้เกี่ยวกับแนวทางปฏิบัติที่ดีที่สุดที่คงที่ แต่มันเกี่ยวกับการปรับตัวอย่างต่อเนื่องต่อวิธีที่ระบบ AI แสดงถึงแบรนด์ของคุณ หลักการเดียวกันนี้ใช้ได้: สังเกต วิเคราะห์ ปรับตัว และดำเนินการ.

แกน ERP/CRM ของเรา.ระบบไม่ได้บังคับใช้กระบวนการที่เข้มงวด มันเรียนรู้จากกระบวนการทำงาน ช่องว่างระหว่างกระบวนการที่ออกแบบและกระบวนการจริงกลายเป็นสัญญาณที่ขับเคลื่อนการปรับปรุง ไม่ใช่เสียงรบกวนที่ลดความน่าเชื่อถือ.


ข้อโต้แย้งที่คุณกำลังคิด

"นี่ฟังดูไม่เสถียร" "ถ้าเอเจนต์ทำการเปลี่ยนแปลงที่ผิดล่ะ?" "แล้วการกำกับดูแลล่ะ?"

นี่คือข้อกังวลที่ถูกต้อง นี่คือวิธีที่ฉันจัดการกับมัน:

การอนุมัติจากมนุษย์เป็นสิ่งจำเป็นสำหรับการเปลี่ยนแปลงโครงสร้าง.ตัวแทนที่สองเสนอ ฉันอนุมัติ ตัวแทนที่สามดำเนินการ วงจรนี้รวดเร็ว — มักจะในวันเดียวกัน — แต่การตัดสินใจของมนุษย์ยังคงเป็นประตู ในเดือนแรกนี้ ฉันได้ปฏิเสธหรือปรับเปลี่ยนประมาณ 15% ของข้อเสนอ โดยปกติแล้วเพราะตัวแทนระบุช่องว่างที่แท้จริง แต่เสนอวิธีแก้ปัญหาที่จะสร้างการซ้ำซ้อนในที่อื่น นักวิเคราะห์ไม่มีบริบททางธุรกิจทั้งหมด นั่นคือเหตุผลที่มนุษย์ยังคงอยู่ในวงจร.

การเปลี่ยนแปลงสามารถย้อนกลับได้.ทุกแพตช์มีการบันทึกและเวอร์ชัน หากมีบางอย่างเสียหาย เราจะย้อนกลับ การบันทึกจะเขียนโดยตัวแทนที่ทำการเปลี่ยนแปลง ดังนั้นมันจึงถูกต้องจริง ๆ — แตกต่างจากเอกสารของมนุษย์ที่ล้าหลังความเป็นจริงเป็นเวลาหลายเดือน.

ทางเลือกนั้นแย่กว่า.โมเดลแบบดั้งเดิมทำให้คุณมีภาพลวงตาของความมั่นคงในขณะที่ช่องว่างเติบโตอย่างเงียบ ๆ ใต้พื้นผิว เมื่อคุณสังเกตเห็น ระบบจะไม่สามารถใช้งานได้และการย้ายข้อมูลเป็นโครงการหกเดือน ฉันชอบการปรับเปลี่ยนเล็กน้อยที่มองเห็นได้ บ่อยครั้ง มากกว่าการเสื่อมสภาพที่ไม่มองเห็นและค่อยเป็นค่อยไป.

ยังมีข้อโต้แย้งเรื่องค่าใช้จ่าย.เราดำเนินโครงสร้างพื้นฐานของตัวแทนบน Mac Studio swarm โดยใช้ Mercury Flux — เลเยอร์การจัดการโมเดลของเราที่ส่งมอบ ~18 พันล้านโทเค็นต่อเดือนที่มีต้นทุนรวมประมาณ $0.07 ต่อหนึ่งล้านโทเค็น เทียบเท่ากับการค้าปลีกจะอยู่ที่ $20,000–200,000 ต่อเดือน กลุ่มตัวแทนเพิ่มต้นทุนการคอมพิวต์เล็กน้อยให้กับโครงสร้างพื้นฐานที่เรากำลังดำเนินการอยู่ เปรียบเทียบกับต้นทุนของโครงการการย้ายระบบเดียว หรือโอกาสที่เสียไปจากรายงานที่ใช้เวลาหลายวันในการปรับให้ตรงกันเพราะข้อมูลอยู่ในห้าสถานที่ต่างกัน.

เศรษฐศาสตร์ไม่ใกล้เคียงเลย.


จะได้รับการตอบรับหรือไม่?

ฉันไม่รู้.

นี่เป็นการเปลี่ยนแปลงอย่างรุนแรงจากวิธีที่องค์กรคิดเกี่ยวกับระบบ เราถูกฝึกให้เชื่อว่าระบบที่ดีคือระบบที่มีเสถียรภาพ การเปลี่ยนแปลงคือความเสี่ยง เป้าหมายคือการทำให้ถูกต้องในครั้งแรก.

แต่ "ถูกต้องในครั้งแรก" เป็นแฟนตาซีในสภาพแวดล้อมใด ๆ ที่เติบโต ปรับตัว หรือเกี่ยวข้องกับมนุษย์ คำถามไม่ใช่ว่าระบบของคุณจะเบี่ยงเบนจากความเป็นจริงหรือไม่ แต่เป็นว่าคุณมีกลไกในการปิดช่องว่างได้เร็วกว่าเมื่อมันเปิดขึ้นหรือไม่.

องค์กรส่วนใหญ่ไม่มี พวกเขามีงานที่ค้างอยู่ พวกเขามี "เราจะแก้ไขในรุ่นถัดไป" พวกเขามีสเปรดชีตเงาและเอกสารการทำงานรอบที่อยู่ในกระทู้ Slack.

ฉันขอเสนอสิ่งที่แตกต่าง: ยอมรับช่องว่างว่าเป็นสิ่งที่หลีกเลี่ยงไม่ได้ และสร้างความสามารถในการปิดมันอย่างต่อเนื่อง.

บางคนจะเกลียดสิ่งนี้ มันเป็นภัยคุกคามต่ออุตสาหกรรมการวางแผนโครงการ มันทำให้ "การดำเนินการ" เป็นค่าใช้จ่ายในการดำเนินงานที่ต่อเนื่องแทนที่จะเป็นโครงการที่สามารถลงทุนได้เพียงครั้งเดียว มันต้องการความไว้วางใจในตัวแทน AI กับการเปลี่ยนแปลงระบบที่มนุษย์เคยควบคุม

แต่ฉันได้ดำเนินการนี้มาเป็นเวลาหนึ่งเดือนแล้ว ช่องว่างที่เคยใช้เวลาหลายไตรมาสในการปิดตอนนี้ปิดในไม่กี่ชั่วโมง สเปรดชีตเงากำลังหายไปเพราะระบบสะท้อนความเป็นจริงอย่างแท้จริง เอกสารมีความทันสมัยเพราะมันถูกสร้างขึ้น ไม่ใช่บำรุงรักษา

มันไม่สมบูรณ์แบบ แต่ดีกว่าการตกต่ำอย่างไม่มีที่สิ้นสุด


ความหมายที่กว้างขึ้น

นี่ไม่ใช่แค่เกี่ยวกับระบบภายในของ Mercury

รูปแบบเดียวกันนี้ใช้กับทุกองค์กรที่กำลังต่อสู้กับการเปลี่ยนแปลงดิจิทัล สาเหตุที่โครงการการเปลี่ยนแปลงจำนวนมากล้มเหลวไม่ใช่เพราะเทคโนโลยีไม่ทำงาน แต่เป็นเพราะช่องว่างระหว่างระบบใหม่และธุรกิจจริงมักจะขยายตัวเร็วกว่า ทีมงานการดำเนินการจะสามารถปิดมันได้

ตัวแทน AI เปลี่ยนเศรษฐศาสตร์ของสมการนี้ เมื่อการปรับตัวเป็นแบบอัตโนมัติและต่อเนื่อง ช่องว่างจะสามารถจัดการได้ เมื่อมันเป็นแบบแมนนวลและมีโครงการ ช่องว่างจะชนะเสมอ

องค์กรที่ค้นพบสิ่งนี้ได้ก่อนจะมีข้อได้เปรียบเชิงโครงสร้าง ไม่ใช่เพราะระบบของพวกเขาถูกออกแบบมาได้ดีกว่า แต่เพราะระบบของพวกเขาดีกว่าในการการเปลี่ยนแปลงสิ่งที่ธุรกิจต้องการจริงๆ

นี่คือเหตุผลที่ฉันไม่กังวลเกี่ยวกับ AI ที่ทำให้ธุรกิจของเราเป็นสินค้า

43% ของลูกค้าที่หลุดออกจากช่องว่างระหว่าง AI กับมนุษย์? ตัวเลขนั้นมาจากการสังเกตเดียวกัน ระบบที่ออกแบบมาสำหรับการทำงานในอุดมคติพลาดพฤติกรรมจริง ธุรกิจที่สามารถจับลูกค้า 43% นั้นจะไม่ใช่ธุรกิจที่มีแชทบอทที่ดีกว่า แต่จะเป็นธุรกิจที่โครงสร้างพื้นฐานปรับตัวอย่างต่อเนื่องตามวิธีที่มนุษย์ทำงานจริง — ไม่ใช่ตามที่แผนภาพกระบวนการบอกว่าควรทำงานอย่างไร

นี่คือการเดิมพันที่ฉันกำลังทำ


เขียนจากฮ่องกง ที่ซึ่งความชื้นสูงและช่องว่างระหว่างการปรับอากาศกับความเป็นจริงอยู่ที่ประมาณ 12 องศา

Originally published on MTS Blog & Research