Đây là bài viết “Interactive Debugging Agents: LLMs that Debug Code”, theo phong cách Hải “Architect” – nhìn vấn đề từ trên cao và phân tích kỹ thuật.

Interactive Debugging Agents: LLMs That Debug Code – Tự Động Xử Lý Lỗi Trong Hệ Thống

Chúng ta không còn phải viết code “không lỗi”. Chúng ta chỉ cần viết code mà khi có lỗi, nó tự giải quyết hoặc giúp chúng ta giải quyết nhanh chóng.
— Anh Hải, Senior Solutions Architect

🧠 Khi Nào Một Hệ Thống Cần “AI” Giúp Fix Lỗi?

Vào một thời điểm, khi hệ thống đang chạy với 150.000 CCU (Concurrent Connection Users), khoảng 70% các lỗi được báo lên hệ thống không phải do logic sai mà do lỗi cấu hình, timeout hoặc deadlock trong database. Những lỗi như vậy thường xuất hiện không theo quy luật, và gây ra sự cố ở các endpoint API trong vòng 20s đầu tiên sau khi phát sinh.

🕵️‍♂️ Lập trình viên lúc đó không thể debug mọi thứ bằng tay. Dựa vào logs, stack trace và error message, việc tìm lỗi chỉ đơn giản hơn 10% so với việc xử lý bug bằng tay.

🧠 Việc sử dụng AI để debug không phải để thay thế lập trình viên, mà để tự động hóa quy trình debug và đề xuất các cách sửa lỗi trong môi trường thực tế.

Đây là chủ đề của bài viết hôm nay:

“Interactive Debugging Agents” là những AI model hoặc code agent thông minh có thể:

• Reproduce bug (lặp lại lỗi)
• Propose fixes (đề xuất cách sửa)
• Run tests (chạy test tự động)
• Verify fix (kiểm tra lại lỗi đã được sửa)

🔍 Use Case Kỹ Thuật: Hệ Thống Có 500K API Requests/Phút

Giả sử: Một hệ thống xử lý dữ liệu 50GB mỗi ngày, với Python 3.12 và FastAPI + PostgreSQL 16.

Các endpoint như /api/process đang gặp lỗi “504 Gateway Timeout” khi truy cập vào vào khoảng 400–600 requests/second, trong khi các request khác vẫn ổn định. Không phải do quá tải VM, mà là lỗi deadlock hoặc lỗi transaction trong database.

🛠️ Giải pháp: Dùng Interactive Debugging Agent để tự động debug code

Agent có thể:
1. Nhận dữ liệu request + log từ error (504)
2. Tái tạo lỗi trong môi trường test
3. Gửi log + stack trace về AI
4. Nhận fix gợi ý (ví dụ: thêm session timeout, rollback transaction, hoặc tối ưu query SQL)
5. Chạy test để verify fix

🤖 Công Nghệ Ở Đâu?

🔷 Giao thức & Kiến trúc:

Một ứng dụng Debugging Agent có thể dùng các nền tảng sau:
– LangGraph (cho việc xây dựng workflow logic)
– OpenAI / Claude / Llama3 (LLM hỗ trợ phân tích lỗi)
– Pytest + pytest-xdist + Docker (cho việc chạy test auto)
– Sentry hoặc ELK Stack (để collect logs, stacktrace)
– PostgreSQL Query Plan Analyzer (EXPLAIN ANALYZE) để debug SQL

🌀 Mô hình luồng hoạt động:

graph TD
    A[User Request] --> B[Log Collector]
    B --> C[LLM Agent]
    C --> D{Error Reproduction}
    D -->|Yes| E[Analyze Stack Trace]
    D -->|No| F[Simulate Env]
    E --> G[Propose Solution]
    G --> H[Run Unit Test]
    H --> I{Fix Validation}
    I -->|Success| J[Send Patch]
    I -->|Fail| K[Retry / Log Error]

🛡️ Tuy nhiên, việc đưa AI vào quá trình debug không tự động fix hoàn toàn. Mô hình không thể đảm bảo 100% đúng nếu thiếu context của hệ thống hoặc logic business cụ thể.

🧪 Một Ví Dụ Thực Tế

Giả sử có đoạn code như này:

from fastapi import FastAPI
import asyncpg

app = FastAPI()

async def get_user(id: int):
    conn = await asyncpg.connect('postgresql://user:password@localhost/db')
    try:
        result = await conn.fetch('SELECT * FROM users WHERE id = $1', id)
        # Nếu không có dữ liệu, trả về null
        return result[0] if result else None
    finally:
        await conn.close()

@app.get("/user/{id}")
async def read_user(id: int):
    user = await get_user(id)
    if user is None:
        raise HTTPException(status_code=404, detail="User not found")
    return user

🐛 Lỗi gặp phải: 504 Gateway Timeout khi gọi với ID lớn (10000+)

Phân tích bằng AI:

Agent nhận được error log từ hệ thống:

2025-04-12 13:32:01 ERROR 504: Gateway timeout on /api/user/10000
...
SQLSTATE[55000]: Object not in prerequisite state: 7 ERROR: deadlock detected

✅ Lời khuyên từ AI:

“Code đang dùng asyncpg với transaction không được tối ưu, có thể bị deadlock khi có nhiều yêu cầu đồng thời truy vấn cùng một row. Gợi ý thêm LOCK_TIMEOUT = 5000 và thêm retry logic với Exponential Backoff.”

💡 Code patch được đề xuất:

from asyncpg import Connection
import asyncio

async def get_user_with_retry(id: int, retry_count: int = 3):
    for attempt in range(retry_count):
        try:
            conn = await asyncpg.connect('postgresql://user:password@localhost/db')
            await conn.set_type_codec('jsonb', decoder=json.loads, encoder=json.dumps)
            result = await conn.fetch('SELECT * FROM users WHERE id = $1', id)
            await conn.close()
            return result[0] if result else None
        except Exception as e:
            if 'deadlock detected' in str(e) and attempt < retry_count - 1:
                await asyncio.sleep(0.5 * (2 ** attempt))  # Exponential backoff
                continue
            else:
                raise e

🔍 So sánh Các Giải Pháp Trong Debug Code

⚡ So sánh cụ thể về performance impact:
– Pytest + LLM agent: tăng ~100ms mỗi test nếu dùng remote model
– LangGraph + Redis: ~15ms overhead nếu dùng cache tốt

🔒 Cảnh báo bảo mật

🛡️ Việc đưa code vào trong AI có thể khiến rò rỉ thông tin nhạy cảm (token, private keys, logic business). Cần sử dụng sandbox hoặc chỉ gửi log & stack trace, đừng gửi code gốc.

📊 Định hướng tương lai: Debug Agent với LLM 2.0?

Theo StackOverflow 2024 Survey, 91% developer cho rằng AI sẽ hỗ trợ trong quá trình debug trong vòng 3 năm tới.

Một vài hướng phát triển dự kiến:

• Debug agent tích hợp trực tiếp trong IDE (Vim/VSCode) – như Copilot nhưng chuyên sâu hơn
• Chạy test và debug trực tiếp trong CI (GitHub Actions) bằng LLM
• Truy xuất lỗi từ một batch request lớn → AI tìm nguyên nhân và gợi ý fix

✳️ Key Takeaways

1. Interactive Debugging Agents không thay thế lập trình viên, mà giảm thời gian debug từ 60% lên đến 90% nếu được cấu hình đúng.
2. Dựng hệ thống debug tự động cần 3 yếu tố: (1) Logging đầy đủ, (2) LLM có context của domain, (3) Flow test tự động + cache.
3. Không nên áp dụng AI ngẫu nhiên, đặc biệt với hệ thống có dữ liệu nhạy cảm. Nên có layer validation trước khi gửi code lên AI.

💬 Bạn đã từng gặp lỗi kiểu gì trong quá trình debug?

Anh em đã từng tích hợp AI vào workflow debug chưa? Cách xử lý lỗi nào khiến bạn “mơ màng thấy trời” 😅

🧩 Kêu gọi hành động

Nếu bạn đang làm việc với dự án lớn, bạn có thể:
– Thử dựng một prototype debug agent nhẹ với LangGraph + FastAPI
– Tự động hóa việc test & debug với GitHub Action và AI
– Chia sẻ trải nghiệm thực tế nếu từng xây dựng hệ thống tương tự