본문 바로가기

728x90

전체 글74

도구 설계 베스트 프랙티스 — 에이전트를 똑똑해 보이게 만드는 건 모델이 아니라 Tool Spec이다 시리즈 3편. 1편 하네스 엔지니어링 입문 · 2편 평가 하네스 구축 가이드에 이어, 이번 글은 하네스의 가장 실용적인 구성 요소 — 도구(Tools) 를 다룹니다.들어가며: 같은 모델, 다른 결과같은 Claude Opus 4.6을 쓰는 두 팀이 있습니다. A팀의 에이전트는 복잡한 리팩터링을 척척 해내고, B팀의 에이전트는 파일 경로 하나 못 찾아 헤맵니다. 차이는 모델이 아니라 도구에 있습니다.에이전트 개발자들이 가장 흔히 하는 착각은 "LLM이 똑똑하니까 도구는 대충 만들어도 알아서 쓸 것"이라는 생각입니다. 현실은 정반대입니다. 좋은 도구는 모호한 추론 문제를 결정적인 함수 호출로 바꿉니다. 나쁜 도구는 세상에서 가장 똑똑한 모델조차 바보로 만듭니다.도구 설계의 원칙: 에이전트에게 "뭘 할 수 있는.. 2026. 4. 12.

에이전트 평가 하네스(Eval Harness) 구축 가이드 — "느낌"이 아니라 "숫자"로 신뢰성을 증명하기 시리즈 2편. 1편 하네스 엔지니어링 입문에서 우리는 제약·도구·피드백 루프로 에이전트를 둘러싸야 한다고 이야기했습니다. 이번 글은 그 중 피드백 루프의 심장, 평가 하네스를 다룹니다.들어가며: "어제보다 나아졌나요?"프롬프트 한 줄 바꾸고, 도구 하나 추가하고, 모델을 Sonnet에서 Opus로 올렸습니다. 에이전트가 더 좋아졌을까요? 더 나빠졌을까요?"느낌상 좋아진 것 같아요"로 답하는 팀은 곧 프로덕션에서 무너집니다. 평가 하네스가 없으면 개선과 회귀를 구분할 수 없기 때문입니다.평가 하네스란, 에이전트의 동작을 재현 가능한 방식으로 측정하고 회귀를 잡아내는 자동화된 테스트 인프라입니다. 전통 소프트웨어의 단위 테스트와 비슷하지만, 출력이 비결정적이라는 점에서 본질적으로 다릅니다.평가 하네스의 4가.. 2026. 4. 11.

하네스 엔지니어링(Harness Engineering): AI 에이전트를 프로덕션에서 신뢰할 수 있게 만드는 기술 들어가며GPT-5, Claude Opus 4.6 같은 최신 모델이 등장해도 AI 에이전트를 실제 프로덕션에 투입하면 여전히 같은 문제가 반복됩니다. 환각(hallucination), 무한 루프, 잘못된 도구 호출, 장기 작업에서의 드리프트(drift)... 더 좋은 모델로 교체한다고 해서 해결되지 않습니다.그래서 등장한 개념이 바로 하네스 엔지니어링(Harness Engineering) 입니다.하네스 엔지니어링이란, AI 에이전트가 프로덕션에서 신뢰성 있게 동작하도록 그 주변에 제약(constraints), 도구(tools), 피드백 루프(feedback loops)를 설계하는 인프라 공학 분야입니다. 핵심 통찰은 단순합니다. "에이전트 자체를 더 똑똑하게 만들려 하지 말고, 에이전트를 둘러싼 환경을 더.. 2026. 4. 11.

🚀 Physical AI - Part 4 Physical AI는 산업과 노동을 어떻게 바꾸는가1. 변화는 이미 시작되고 있습니다앞선 글에서 살펴본 것처럼, Physical AI는 점진적으로 현실에 적용되고 있습니다.이 변화는 아직 초기 단계이지만, 이미 산업 전반에서 관찰되고 있습니다.중요한 점은 이 변화가 특정 기술 영역에 국한되지 않는다는 것입니다.Physical AI는 산업 구조와 노동 방식에 영향을 주기 시작했습니다.2. 산업 구조의 변화Physical AI는 특히 현실 세계에서 작업이 이루어지는 산업에 영향을 줍니다.제조 (Manufacturing)🏭 제조 자동화의 진화기존의 자동화는 정해진 작업을 반복하는 형태였습니다.하지만 Physical AI는 상황을 인식하고 유연하게 대응할 수 있습니다.이로 인해 더 다양한 작업이 자동화 대상.. 2026. 4. 11.

🚀 Physical AI - Part 3 왜 지금 Physical AI인가1. Physical AI는 갑자기 등장한 것이 아닙니다Physical AI는 새로운 개념처럼 보이지만, 사실은 오랫동안 연구되어 온 분야입니다.로봇 공학, 컴퓨터 비전, 제어 시스템은 이미 수십 년 전부터 발전해 왔습니다.다만 그동안은 기술적 한계로 인해 현실에서 널리 사용되기 어려웠습니다.그렇다면 지금은 무엇이 달라졌을까요?2. 세 가지 변화가 동시에 일어나고 있습니다최근 Physical AI가 주목받는 이유는 하나의 기술 때문이 아닙니다.여러 기술이 동시에 성숙하면서 비로소 현실 적용이 가능해지고 있습니다.3. 첫 번째 변화: AI 모델의 진화최근 몇 년 사이 AI 모델은 빠르게 발전했습니다.특히 OpenAI, Google DeepMind와 같은 조직이 발전시킨 모델.. 2026. 3. 31.

🚀 Physical AI - Part 2 Physical AI는 어떤 구조로 작동하는가1. Physical AI는 단일 기술이 아닙니다Physical AI를 하나의 기술로 이해하기는 어렵습니다.하나의 모델이나 알고리즘이 아니라, 여러 기술이 결합된 시스템에 가깝습니다.이 시스템은 보통 세 가지 흐름으로 설명됩니다.인지 → 판단 → 행동 (Perception → Reasoning → Action) 이 세 단계는 분리되어 있는 것처럼 보이지만, 실제로는 계속 반복되는 하나의 흐름입니다.2. 인지(Perception): 현실을 이해하는 단계👁️ Perception Layer 첫 번째 단계는 현실 세계를 인식하는 것입니다.Physical AI는 텍스트가 아니라 센서를 통해 정보를 받아들입니다.카메라 (이미지, 영상)LiDAR / Radar (거리, .. 2026. 3. 30.

이전 1 2 3 4 ··· 13 다음

728x90

티스토리툴바