بلاگ

هوش مصنوعی کد می‌نویسد؛ سیستم مال کیست؟

هوش مصنوعی تولید کد را ارزان کرد. اینکه آن کد جایش در سیستم هست یا نه، مرزهای واقعی و اثبات کار کردن، هنوز کار مهندسی است — و صاحب دارد.

نویسنده محمدپویا قورچیانیقورچیانی

engineeringdeveloper-tooling

پاسخ مستقیم

ابزارهای کدنویسی با هوش مصنوعی چیزِ گران را عوض کردند. نوشتن یک endpoint، یک query، یک کانفیگ Docker یا مجموعه‌ای تست حالا سریع و ارزان است. چیزی که ارزان نشد: تصمیم اینکه آن کد اصلاً باید باشد یا نه، منطقش کجا زندگی کند، وقتی یک وابستگی از کار افتاد چه می‌شود، و اینکه کسی از کجا بفهمد واقعاً کار می‌کند. این سؤال‌ها صاحب دارند، و صاحبشان هنوز یک آدم است.

تولید کد دیگر گلوگاه نیست

من زیاد از ابزارهای کدنویسی با هوش مصنوعی استفاده می‌کنم. endpoint، query دیتابیس، کامپوننت، کانفیگ Docker، تست — گاهی یک فیچر کامل — را سریع‌تر از اینکه دو بار پرامپت را تایپ کنم تولید می‌کنند.

این واقعی و مفید است. ولی بخش سخت را جابه‌جا کرد. سؤال‌هایی که حالا وقتم را می‌گیرند همان‌هایی‌اند که کدِ تولیدشده هیچ‌وقت نمی‌پرسد:

  • اصلاً این سرویس باید وجود داشته باشد؟
  • این منطق کجا باید باشد؟
  • وقتی Redis از کار بیفتد چه می‌شود؟
  • زیر درخواست‌های هم‌زمان چه می‌شود؟
  • امن است؟
  • کسی ساعت ۳ صبح می‌تواند دیباگش کند؟
  • توسعه‌دهندهٔ بعدی می‌فهمدش؟

هیچ‌کدام با کدِ بیشتر جواب داده نمی‌شوند. جوابشان فهمیدن سیستمی است که کد واردش می‌شود — معماری، زیرساخت، حالت‌های شکست، امنیت. این همان بخشی از مهندسی است که به سمتش رفته‌ام، و دلیل ساختن چیزهایی مثل Aurum RS و NebulaGrid همین است: فهمیدن آنچه زیرِ API اتفاق می‌افتد، نه فقط تولید یک API.

کدِ ارزان، abstractionِ ارزان می‌سازد

یک حالت شکست وقتی کد مجانی می‌شود بدتر می‌شود: abstraction زودهنگام.

در کدبیس‌هایی کار کرده‌ام که تقریباً هر وابستگی یک interface داشت. interface برای repository، برای service، برای factory، adapter دور adapter. همه‌چیز تمیز به نظر می‌رسید — تا وقتی می‌خواستی چیزی را عوض کنی، و یک تغییر کوچک یعنی دنبال کردن یک رفتار در پنج لایه تا جایی که تصمیم واقعی گرفته می‌شود.

دستیار هوش مصنوعی با کمال میل همین ساختار را برایت تولید می‌کند، چون شبیه معماری خوب است. مشکل هیچ‌وقت خودِ abstractionها نبود. مشکل ساختن مرز قبل از وجود دلیل واقعی برایش بود.

قاعده‌ای که الان رعایت می‌کنم:

  • اگر دو جزء لازم نیست مستقل از هم تغییر کنند، به‌طور پیش‌فرض جدایشان نمی‌کنم.
  • اگر یک ماژول به مرز پایدار نیاز ندارد، فقط چون تمیزتر به نظر می‌رسد مرز نمی‌سازم.
  • اگر یک abstraction از وابستگی‌ای که پنهانش می‌کند سخت‌فهم‌تر است، زیر سؤالش می‌برم.

چند مرز محکم از ده‌ها مرز مصنوعی بهتر است — و کدِ تولیدشده اضافه کردن مرزهای مصنوعی را مجانی و برداشتنشان را گران می‌کند. (یک نمونه از مرزی که ارزشش را دارد: مرزهای احراز هویت در gateway با Axum.)

«تمام شد» مدرک می‌خواهد، نه یک پیام مطمئن

کار دومی که ابزارهای هوش مصنوعی خیلی خوب بلدند، تمام‌شده به نظر رسیدن است.

وقتی opencode-browser-agent را ساختم — پلاگینی که به یک agent کدنویسی اجازه می‌دهد در همان مرورگری کار کند که در آن لاگین هستی — مهم‌ترین قاعدهٔ طراحی یک فیچر نبود. این بود: کلیک کردن روی یک دکمه اثبات موفق شدن کار نیست. تمام شدن باید با شواهد شبکه و خواندن دوباره (read-back) تأیید شود، نه از اینکه یک عمل اجرا شده، فرض شود.

Wireglass همین ایده را روی شبکه اعمال می‌کند: پروتکلی که فقط تبلیغ شده (هدر Alt-Svc) تا وقتی handshake واقعی QUIC کامل نشود هرگز «کار می‌کند» گزارش نمی‌شود، و timeout در UDP به‌عنوان timeout گزارش می‌شود، نه اثبات مسدود بودن UDP.

همین استاندارد را از تغییرهایی که هوش مصنوعی می‌نویسد هم می‌خواهم. «تست‌ها پاس شدند» مدرک است. «endpoint با body مورد انتظار ۲۰۰ داد» مدرک است. «agent گفت تمام شد» مدرک نیست.

سریع‌تر یعنی عاقل‌تر نیست

همین الگو در مقیاس شرکت هم دیده می‌شود. هوش مصنوعی می‌تواند گزارش بنویسد، داده تحلیل کند، به درخواست مشتری جواب دهد و کل یک workflow را خودکار کند، و بله، هزینه را کم می‌کند. ولی انجام دادن کار با فهمیدن کار یکی نیست:

  • وقتی یک تصمیم خودکار اشتباه می‌شود، مسئولیتش با کیست؟
  • چه کسی می‌فهمد مشکل یک مشتری با الگوی همیشگی جور درنمی‌آید؟
  • چه کسی به‌جای دنبال کردن داده، جلوی یک تصمیم بد می‌ایستد؟
  • چه کسی زمینه‌ای را می‌داند که هیچ‌وقت وارد سیستم نشد؟

نسخهٔ کدنویسی‌اش هم هست. ارسال چیزی که نمی‌فهمی امن به نظر می‌رسد چون ریسک به سمت تو نیست — به سمت کسی است که به تو اعتماد کرد: کاربر، کسب‌وکار، تیم بعدی که رویش می‌سازد. سرعت واقعی است؛ ریسک فقط به پایین‌دست منتقل می‌شود، به کسی که نمی‌تواند کد را بخواند.

هوش مصنوعی می‌تواند یک تیم را سریع‌تر کند. خودبه‌خود عاقل‌ترش نمی‌کند. فرصت واقعی این است که کارهای تکراری را به آن بسپاری و قضاوت، زمینه و مسئولیت دست آدم‌ها بماند.

قبل از نگه داشتن کدی که هوش مصنوعی نوشته، این‌ها را چک می‌کنم

  1. جایش اینجاست؟ آیا خودم این سرویس، ماژول یا وابستگی را می‌نوشتم؟ اگر نه، چرا الان هست؟
  2. تصمیم کجا گرفته می‌شود؟ می‌توانم به یک جا اشاره کنم که رفتار در آن تصمیم‌گیری می‌شود — نه پنج لایه که فقط پاسش می‌دهند.
  3. چه چیزی می‌شکند و چقدر بلند؟ timeout، cache مرده، secret غایب، نوشتن هم‌زمان: هر کدام خطای دیدنی و صادق دارد، نه fallback بی‌صدا.
  4. ثابت شده؟ یک تست، یک درخواست با پاسخ بررسی‌شده، یا یک read-back — نه خلاصه‌ای از کاری که ظاهراً انجام شده.
  5. نفر بعدی می‌تواند صاحبش شود؟ اگر ساعت ۳ صبح نتوانم توضیحش بدهم، تمام نشده.

حالا هوش مصنوعی بخش زیادی از کدم را می‌نویسد. سیستم هنوز مال من است.

لینک‌ها