본문 바로가기

전체 글149

RL-HF에서 RL-CAI로? 지속적 AI 정렬의 시대가 열린다 RL-HF는 끝났는가? 왜 지금 지속적 정렬이 필요한가최근 AI 개발 방식이 변화하고 있습니다. 이전에는 인간 피드백 기반 강화학습(RLHF)이 주된 방식이었으나,이제는 지속적 정렬(Continuous Alignment)이 가능한 새로운 패러다임인 RL-CAI가 주목받고 있습니다.RLHF는 피드백을 통해 일회성으로 정렬을 완료하는 방식이었던 반면, RL-CAI는환경에 지속적으로 적응하며 정렬 상태를 유지하고 개선해 나가는 구조입니다.이 글에서는 두 방식의 차이점, 왜 변화가 필요한지, RL-CAI의 구조적 장점에 대해 살펴봅니다.RLHF란 무엇이며, 왜 사용되었는가RLHF는 Reinforcement Learning from Human Feedback, 즉 인간 피드백 기반 강화학습을 의미합니다.기계 학습.. 2025. 8. 1.
검증 가능한 신뢰형 AI: Verifiable RLHF 최신 연구 동향 Verifiable RLHF란 무엇이며 왜 주목받고 있을까?Verifiable RLHF(Verifiable Reinforcement Learning from Human Feedback, 인간 피드백 기반 검증 가능한 강화학습)는 신뢰할 수 있는 인공지능을 구축하기 위한 핵심 기술로 급부상하고 있습니다. 이 방법은 인간 피드백 기반 학습의 불확실성과 비결정성을 줄이고, AI 시스템의 행동과 결과를 수학적으로 검증할 수 있는 방식을 제공합니다. 본 글에서는 Verifiable RLHF의 정의, 배경, 연구 흐름, 활용 분야, 그리고 한계에 대해 자세히 살펴보겠습니다.신뢰 가능한 AI와 RLHF의 관계AI가 인간의 언어와 행동, 의사결정을 흉내내는 수준이 높아질수록,그 결과를 신뢰할 수 있는지가 가장 중요한 .. 2025. 8. 1.
Vectara Search API로 구축한 사내 지식 검색 엔진 리뷰 기존 검색보다 얼마나 똑똑해졌을까? 실제 사용 후기를 중심으로 살펴봅니다사내 문서가 계속 늘어남에 따라 원하는 정보를 찾기가 점점 어려워지고 있습니다. 특히 부서별로 분산되어 있거나 오래된 PDF 파일에 저장된 자료의 경우, 단순 키워드 기반 검색에는 한계가 있습니다. 이번 글에서는 Vectara Search API를 활용해 구축한 사내 지식 검색 엔진의 실제 사용 경험을 바탕으로 기능성과 성능을 상세히 리뷰해보았습니다.도입 배경과 주요 기대 효과사내 데이터는 회의록, 정책 문서, 제품 가이드, 이메일 아카이브 등다양한 형식으로 존재합니다.이처럼 비구조화된 데이터가 많아 일반적인 키워드 검색은문맥을 제대로 파악하지 못하는 경우가 많았습니다.Vectara는 이를 해결하기 위해텍스트의 의미를 이해하는 시맨틱.. 2025. 7. 31.
LlamaIndex로 구현하는 데이터 기반 RAG 파이프라인 구축기 문서 기반 RAG 시스템은 어떻게 설계하고 적용할 수 있을까요?LlamaIndex는 텍스트 문서를 효율적으로 구조화하고, 이를 기반으로 Retrieval-Augmented Generation(RAG) 시스템을 구축할 수 있도록 돕는 프레임워크입니다. 이 글에서는 LlamaIndex를 활용해 사내 데이터, PDF, 웹 문서 등을 AI 모델과 연결하는 RAG 파이프라인을 설계하고 구현하는 전 과정을 안내합니다.LlamaIndex란? RAG 인덱싱을 위한 핵심 도구LlamaIndex는 GPT 모델과 결합해외부 데이터를 검색하고 활용하는 RAG 아키텍처에 적합한문서 인덱싱 프레임워크입니다.텍스트 파일, 데이터베이스, Notion, Google Docs, PDF 등다양한 소스로부터 데이터를 불러와검색 가능한 인덱.. 2025. 7. 31.
Flowise로 RAG 시스템 만들기: 정말 ‘Low-code’였을까? Flowise RAG 빌더를 써보니, 진입 장벽은 어느 정도였나?RAG(검색 강화 생성) 기술은 챗봇, 검색 엔진 등에서 널리 쓰이고 있습니다.하지만 직접 구축하려면 LLM 연동, 벡터 DB 설정, API 설계 등 복잡한 과정이 필요합니다.Flowise는 이런 과정을 시각적이고 로우코드 방식으로 단순화했다고 하는데,실제로 사용해 본 결과 얼마나 쉽게 접근할 수 있었는지 정리했습니다.설치부터 실행까지, 정말 몇 분이면 충분하다Flowise는 로컬에 Node.js 환경만 있으면 바로 실행할 수 있습니다.GitHub에서 클론 후 npm install과 npm run dev를 실행하면바로 브라우저에서 UI가 열립니다.기본 포트는 3000번이며 별도의 서버 설정이 필요 없습니다.항목세부 내용설치 방식Node.js.. 2025. 7. 30.
WIZARDcoder 34B 코드 생성, 실제 프로젝트 적용 사례 초거대 코드 생성 AI, 실제로 얼마나 유용할까? 프로젝트 활용 후기WIZARDcoder 34B는 코드 생성을 위해 최적화된 초거대 언어 모델로,기존 모델을 뛰어넘는 규모와 정밀도로 많은 주목을 받고 있습니다.이번 글에서는 이 모델을 실제 프로젝트에 적용한 경험을 바탕으로활용 방법, 결과, 그리고 한계까지 자세히 소개합니다.WIZARDcoder 34B는 어떤 모델인가요?WIZARDcoder 34B는 약 340억 개의 파라미터를 기반으로 동작하는코드 특화 초대형 LLM(Language Model)입니다.일반적인 자연어 처리 모델과 달리, 소스코드 생성, 수정, 리팩토링에특화된 아키텍처를 가지고 있으며코드 문맥을 이해하고 복잡한 로직까지 처리할 수 있는 것이 특징입니다.어떤 프로젝트에 적용했나요?저희 팀은 .. 2025. 7. 30.

티스토리툴바