AI가 소프트웨어 개발을 영원히 바꾼 방법 — Microsoft MVP Andre Baltieri와 함께 만드는 에이전틱 미래 [MVP]

인공지능은 소프트웨어 개발을 우리가 전에 거의 본 적 없는 속도로 바꾸고 있습니다.개발자들은 이미 모든 코드를 직접 작성하는 방식에서 벗어나, 코드를 생성하고, 낯선 시스템을 설명하고, 테스트를 만들고, 애플리케이션을 디버깅하고, 반복적인 작업을 자동화할 수 있는 AI 어시스턴트와 함께 일하고 있습니다.
하지만 Microsoft MVP Andre Baltieri에 따르면, 이것은 시작에 불과합니다.이번 M365.FM 에피소드에서 Mirko Peters는 Andre와 함께 전통적인 소프트웨어 개발에서 AI 지원 개발로의 전환, 코딩 에이전트, 에이전트형 아키텍처, Microsoft Agent Framework, .NET, RAG, 컨텍스트 엔지니어링, 보안, 그리고 생성형 AI의 경제성에 대해 심도 있게 이야기합니다.

2003년의 .NET에서 AI 시대까지
Andre는 .NET과 C#의 초창기로 우리를 데려갑니다. 당시 새로운 Microsoft 기술을 배우려면 공식 교육을 구매하고 다른 도시로 이동해야 하는 경우가 많았습니다.그 이후 소프트웨어 개발은 데스크톱, 웹, 모바일, 클라우드, 컨테이너, 마이크로서비스, 서버리스 컴퓨팅을 거쳐 발전해 왔습니다.Andre는 AI로의 전환이 근본적으로 다르게 느껴진다고 주장합니다. AI는 단순히 또 하나의 플랫폼이나 프레임워크를 도입하는 것이 아니라, 사람이 소프트웨어와 상호작용하는 새로운 방식을 도입하기 때문입니다.

AI 어시스턴트 vs. AI 코딩 에이전트
IDE 안에 AI 어시스턴트를 두는 것과 작업을 에이전트에게 위임하는 것 사이에는 중요한 차이가 있습니다.어시스턴트는 코드를 설명하고, 리팩터링을 제안하고, 질문에 답하고, 개발자가 애플리케이션을 이해하도록 도울 수 있습니다.에이전트는 목표를 받아 계획을 세우고, 작업을 더 작은 단위로 나누고, 도구를 사용하며, 추가 에이전트를 조율하고, 솔루션의 상당 부분을 구현할 수 있습니다.Andre는 이것이 이미 자신의 개발 워크플로를 어떻게 바꾸고 있는지 설명합니다. 이제 AI가 과거라면 그가 직접 작성했을 코드의 상당 부분을 생성하고 있습니다.

스펙 기반 소프트웨어 개발
에이전트의 역량이 높아질수록 명세(스펙)의 중요성도 커집니다.개발자는 모든 구현 세부 사항을 기술하는 대신 요구사항, 아키텍처, 제약 조건, 기대 동작을 정의하고, 구현의 일부를 어떻게 완성할지는 에이전트가 결정하도록 할 수 있습니다.이로써 개발자의 관심은 단순히 코드를 만드는 일에서 무엇을 왜 만들어야 하는지를 정의하는 일로 옮겨 갑니다.

Microsoft Agent Framework
대화는 기존 애플리케이션에 AI 기능을 도입하는 Microsoft Agent Framework의 역할로 이어집니다.Andre는 이 프레임워크가 Semantic Kernel과 AutoGen과 관련된 기능을 통합하고, 모델 연결, 워크플로 오케스트레이션, MCP 사용, RAG 구현, 데이터 수집 처리, 애플리케이션 기능을 AI에 노출하기 위한 도구를 개발자에게 제공한다고 설명합니다.특히 .NET 개발자에게는 필요한 통합 코드의 양을 크게 줄여 줄 수 있습니다.

AI 시대에도 .NET이 중요한 이유
Python은 여전히 AI 개발에서 가장 많이 쓰이는 언어 중 하나이지만, Andre는 .NET과 C#이 엔터프라이즈 AI 애플리케이션에 매우 적합한 위치에 있다고 강하게 주장합니다. .NET은 빠르게 발전하고 있으며, Microsoft의 AI 도구도 C# 개발자에게 최신 AI 기능에 대한 네이티브 접근을 점점 더 많이 제공하고 있습니다.따라서 수년간 .NET으로 비즈니스 로직을 구현해 온 조직은 큰 이점을 가질 수 있습니다. AI를 도입하기 위해 모든 것을 다시 만들 필요가 없으며, 기존 기능을 선택적으로 에이전트와 AI 기반 애플리케이션에 노출하면 됩니다.

결정론적 소프트웨어에서 에이전트 시스템으로
전통적인 애플리케이션은 대부분 결정론적입니다. 즉, X가 일어나면 Y를 실행합니다.에이전트 시스템은 다른 모델을 도입합니다. 목표는 이것이다. 이를 달성하기 위해 필요한 행동을 결정하라.이는 중요한 아키텍처 변화를 의미합니다. 개발자는 가능한 모든 경로를 명시적으로 정의하는 대신, AI가 작동할 수 있는 범위 안에서 목표, 도구, 컨텍스트, 권한, 제약 조건, 경계를 정의하게 됩니다.

디자인 패턴은 죽지 않았다
AI가 생성한 코드가 수십 년간 쌓인 소프트웨어 엔지니어링 지식을 대체하지는 않습니다.AI는 종종 기존 코드베이스를 살펴보며 새 기능을 구현하는 방법을 배우기 때문에, 클린 코드, 유지보수성, 테스트, 아키텍처, 디자인 패턴은 여전히 중요합니다.지저분한 코드는 더 지저분한 코드를 낳을 수 있습니다.AI 에이전트가 구현의 대부분을 수행하더라도 개발자는 여전히 아키텍처와 엔지니어링 원칙을 이해해야 합니다.

확률적 소프트웨어의 문제
전통적인 개발자는 동일한 입력이 동일한 출력을 낸다고 기대합니다.생성형 AI는 확률적입니다.같은 요청도 실행할 때마다 다른 구현, 답변, 동작을 만들어낼 수 있습니다.Andre는 이 때문에 개발자가 테스트와 검증 방식을 다시 생각해야 하며, AI 기능이 많은 사용자에게 노출될 때 강력한 가드레일이 점점 더 중요해지는 이유를 논의합니다.

프롬프트보다 컨텍스트 엔지니어링이 더 중요하다
최신 모델을 선택하는 것이 반드시 가장 중요한 결정은 아닙니다.Andre는 컨텍스트가 모든 것이라고 주장합니다.개발자는 AI에 올바른 정보를 제공할 수 있을 만큼 비즈니스 문제와 기술 환경을 충분히 이해해야 합니다.컨텍스트가 너무 적으면 결과가 약해지고, 너무 많으면 모델이 과부하될 수 있습니다.핵심은 실제로 중요한 정보를 찾아내는 것입니다.

RAG, 데이터, 그리고 컨텍스트 윈도우
조직이 AI 시스템이 자신들의 지식을 바탕으로 작동하기를 원할 때 Retrieval-Augmented Generation(RAG)은 특히 중요해집니다.하지만 RAG 시스템을 만든다는 것은 단순히 문서를 벡터 데이터베이스에 넣는 것이 아닙니다.데이터는 정제, 구조화, 청크 분할, 검색을 거쳐 모델의 컨텍스트에 지능적으로 삽입되어야 합니다.Andre는 자신의 교육 플랫폼에서 비디오 강의를 전사하고 색인하여, 사용자가 개념을 검색하고 관련 지점으로 바로 이동할 수 있게 만든 사례를 공유합니다.

메모리와 AI 컨텍스트 관리
장시간 이어지는 AI 대화는 또 다른 과제, 즉 메모리를 만듭니다.컨텍스트 윈도우가 차면 대화를 요약하거나 압축해야 합니다.Andre는 AI 시스템이 가장 중요한 정보를 항상 보존할 것이라고 가정하는 대신, 개발자가 이 과정을 능동적으로 관리해야 하는 이유를 설명합니다.때로는 가장 좋은 해결책이 놀랍도록 단순합니다. 작업을 마무리하고, 대화를 닫고, 깨끗한 컨텍스트로 다시 시작하는 것입니다.명세와 Markdown 파일은 코딩 에이전트에게 지속적인 프로젝트 컨텍스트를 제공할 수도 있습니다.

보안, 권한, 최소 권한 원칙
AI 에이전트에게 도구와 회사 데이터에 대한 접근 권한을 주면 중요한 보안 문제가 발생합니다.Andre는 에이전트를 사람의 ID와 유사한 원칙에 따라 다룰 것을 권장합니다. 기본적으로 모든 것을 차단하고, 에이전트에 실제로 필요한 것만 노출하라는 것입니다.AI 시스템에 무제한 데이터베이스 접근 권한을 주는 대신, 개발자는 특정 작업에 필요한 정보만 반환하는 엄격하게 통제된 함수를 노출해야 합니다.이는 에이전트가 기업 데이터를 읽거나 수정할 수 있을 때 특히 중요합니다.

프롬프트 인젝션과 AI 가드레일
프롬프트 인젝션은 AI 기반 애플리케이션에 새로운 공격 표면을 만듭니다.사용자는 의도적으로 프롬프트를 조작하고, 의도된 컨텍스트 밖의 정보를 얻으려 하며, 회사 리소스를 소모하거나, AI 시스템이 설계자가 예상하지 못한 행동을 하도록 설득할 수 있습니다.이 논의는 시스템 지침, 애플리케이션 수준의 제한, 통제된 함수, ID, 권한, 그리고 추가적인 보안 경계를 세우는 데 도움이 되는 Azure AI Foundry 같은 플랫폼의 중요성을 다룹니다.

AI FinOps — 모든 것에 생성형 AI를 쓰지 말 것
이 대화에서 얻을 수 있는 가장 실용적인 교훈 중 하나는, AI가 어떤 작업을 수행할 수 있다고 해서 그 작업을 AI가 수행해야 하는 것은 아니라는 점입니다.Andre는 생성형 워크로드와 결정론적 워크로드를 구분합니다.어떤 일이 항상 같은 방식으로 일어나야 한다면, 전통적인 프로그래밍이 더 빠르고, 저렴하며, 신뢰할 수 있을 수 있습니다.그는 다음과 같은 예를 듭니다.