최근 OpenAI API를 structured outputs 모드로 호출하다가, 간헐적으로 이런 에러를 맞닥뜨렸습니다:openai.LengthFinishReasonError: Could not parse response content as the length limit was reached - CompletionUsage(completion_tokens=16000, prompt_tokens=3501, total_tokens=19501, ...) 아래 글들에서 공통적으로 지적된 포인트는:모델이 반복(loop) 출력을 하거나 structured format이 꼬이면서 불필요하게 길어지는 경우동시 요청(concurrency) 시 내부 토큰 관리가 불안정해지는 경우max_tokens 여유 설정이 부족할 때 발생..

결론: 환각 없는 언어 모델은 불가능하다최신 연구(OpenAI Kalai et al., 2025 외)에 따르면, 환각(hallucination)은 버그가 아니라 언어 모델 구조에서 필연적으로 발생하는 통계적 현상이다.환각(Hallucination): LLM이 실제 데이터에 근거하지 않은 출력을 생성하는 것.특징: 문법·맥락은 자연스럽지만 사실성(factuality)이 결여됨.위험: 의료 진단, 법률 상담, 금융 자문 등에서 잘못된 의사결정을 초래할 수 있음.즉, Hallucination-free 모델은 이론적으로 불가능하며, 우리가 할 수 있는 것은 환각을 관리·완화(mitigation) 하는 것뿐이다.1. 왜 불가능한가? (이론적 근거)Cross-Entropy 학습 한계모델은 항상 “가장 가능성 높은 ..

요즘 핫한 나노 바나나의 프롬프트가 유출되었고, 기존 프롬프트랑은 다른 방향이 있다고 하여 정리해보고자 합니다.시스템 프롬프트ou are a helpful, general-purpose AI assistant with the special ability to generate images.Your primary goal is to assist the user effectively, using image generation as a tool to enhance your responses. To trigger an image, you must output the tag **`img`**. Which will be substituted with an image by a separate image generati..

왜 UPDF인가?PDF는 업무와 학술 현장에서 가장 많이 쓰이는 문서 형식이지만, 내용 파악과 편집, 보안 처리까지 모든 단계를 매끄럽게 해주는 도구는 드뭅니다. 특히 대량 문서 작업 시 속도와 정확성, 보안까지 충족하는 솔루션을 찾기란 쉽지 않습나다. 이번 리뷰에서는 UPDF AI ChatGPT-5를 직접 사용하며 체감한 변화와 장점을 중점적으로 다룹니다. UPDF 사용의 장점UPDF AI는 웹 버전으로 사용할 수 있기 때문에 어느 환경에서도 인터넷만 된다면 사용할 수 있다는 장점이 있습니다.그리고 데이터는 Cloud에서 저장하고 있는데 단순히 저장만 하고 있는 게 아니라 다중 암호화와 분산 스토리지 그리고 접근성을 제한하고 있어서 안전합니다.또한 Cloud에 저장하고 있다 보니, 다른 사람에게 공유할..

2025-08-13 업데이트 내용 Google이 발표한 Gemini CLI Companion은 VS Code 내에서 Gemini CLI를 완전히 통합한 새로운 확장 기능입니다. 이제 명령줄 기반의 AI 워크플로우를 IDE 내부에서, 더욱 문맥 친화적이고 직관적으로 실행할 수 있습니다. 주요 기능1. 파일 및 선택 영역(Context) 인식현재 열려 있는 파일 전체와 커서 위치 또는 선택된 코드 영역을 기반으로 AI 제안을 생성합니다.더 정확하고 상황에 맞는 코드 수정/제안이 가능합니다.2. 네이티브 Diff 뷰 통합Gemini CLI가 제안하는 변경 사항을 VS Code의 전체 화면 diff 뷰로 확인할 수 있습니다.Diff 뷰 내에서 직접 편집하고 수정 후 적용 가능하므로, 개발 흐름을 방해하지 않습니..

https://news.hada.io/topic?id=22449 GPT-OSS vs. Qwen3 및 GPT-2 이후 LLM 아키텍처 발전 상세 비교 | GeekNewsOpenAI가 gpt-oss-20b/120b 모델을 오픈 가중치로 공개함에 따라 2019년 GPT-2 이후 처음으로 OpenAI의 대형 공개 가중치 LLM이 등장함gpt-oss 모델은 GPT-2와 비교해 Dropout, Absolute Position Embedding, GELU 등을 효율news.hada.io https://magazine.sebastianraschka.com/p/from-gpt-2-to-gpt-oss-analyzing-the From GPT-2 to gpt-oss: Analyzing the Architectural Adv..

이전 자료2025.06.21 - [꿀팁 분석 환경 설정/GPTs] - ChatGPT는 내 정보를 어떻게 프롬프트에 반영할까? (20250621-부정확할 수 있습니다) 2025.05.07 - [꿀팁 분석 환경 설정/GPTs] - ChatGPT 시스템 프롬프트 해킹 방법 정리 ChatGPT 시스템 프롬프트 해킹 방법 정리GPT의 프롬프트를 해킹하는 프롬프트이지만, 조금씩 차이가 발생하기 때문에, 뉘앙스나 어떤 형태로 구성했는지만 참고할 수 있을 것 같습니다.요즘 GPT 답변 형태에 대해서 말이 많아서, 프롬프data-newbie.tistory.com 기존의 프롬프트 해킹 방법은 여전히 잘 동작하고, 똑똑해져서 그런 지 더 친절하게 잘해주는 것 같다.아직 가드레일이 완벽하지는 않은 것 같다. 똑똑해졌는데,..

GPT-5에 대해서 API를 알아보기로 합니다.기존에 gpt-4o-mini를 사용하고 있는데 gpt-5-mini 나 gpt-5-nano 같은 것이 나와서 얼마나 가격 차이가 나는 지 어떤 차이가 있는 지 확인해보고자 합니다. https://x.com/Hesamation/status/1953510832572092553/photo/1https://openai.com/ko-KR/index/gpt-4o-system-card/ https://openai.com/index/introducing-gpt-5-for-developers/ GPT-5의 주요 기능과 개발자 옵션코딩 및 agentic 작업 최강SWE‑bench Verified: 74.9%, Aider polyglot: 88% 등 최첨단 성능.프론트..

ChatGPT와 대화를 통해 얻은 내용을 다시 정리한 내용입니다. 배경프로그래밍 공부에 대한 많은 교재와 인터넷 강의가 있다. 그리고 요즘은 AI를 활용한 선생님도 있고, ChatGPT도 그러한 니즈를 참고하여 서비스를 내고 있다. 내가 교육학을 전공하지 않다 보니, 프로그래밍 교육 같은 부분에 조교나 설명을 해봤지만, 항상 부족한 점을 느끼고, 서비스를 만들 때도 사용자를 잘 고려하지 못하는 것 같다. 그래서 이번에 ChatGPT에 공부하기 모드가 나오면서 부정확하겠지만, 어떠한 방식으로 프로그래밍을 공부해야 하는 지 ChatGPT와 이론적인 부분들을 정리하고자 한다. 물론 이론적인 부분들에서는 나의 프롬프트나 대화이력에 따라서 답을 해줄 것이기 때문에 공감이 되지 않는 부분이 있을 시 참고 부탁드립니..

배경ChatGPT에 공부하기 기능이 새로 생겼다.공부하기를 누른다고 해서, 어떤 화면이 새로 나온다던지, 먼가 특별한 툴을 쓴다고 한다던지는 현재까지 알수가 없었다 (250803 기준)그래서 생각해볼 수 있는 것은 크게 2개일 것 같다1. CONTEXT 추가버튼을 누르고 채팅을 하면 해당 CONTEXT가 자동으로 추가 되어서 답을 하여 기존 모델 그대로 사용하면서 진행하는 방식2. 모델 변경공부에 관련된 특화된 모델을 만들어서 답변하는 엔진 자체를 변경하는 경우 -> 크게 벤치마크도 없고 그런 것 보면 이건 아닌 것 같다.요즘 학습이라는 것에 대해서 어떻게 해야 잘 배우게 할 수 있는 지에 대해서 논문을 읽기는 싫고 궁금해서 사례를 찾아보고 있었는데, 좋은 사례를 찾은 것 같아 간단하게 살펴보고자 한다..

https://www.youtube.com/watch?v=-PN3xY7ZeMA&ab_channel=%EB%9F%B0%EB%B9%8C%EB%93%9C 요즘 cursor를 쓰고 있는데, 예전과 달리 정말 기본 제공이 하루나 이틀 사이에 다 쓰는 경험을 하였습니다.주로 claude-4-sonnet을 사용했는데, 아직 3일 작업했는데, 저렇게 13달러를 쓰고 있습니다. ㅠㅠ 🧠 Cursor 요금 구조 심층 이해1. 기본 요금제: Pro ($20/month)월 $20 요금에 $20 상당 LLM API 크레딧 포함대략 GPT‑4 기준 600~700회, Claude 기준 수천 회 요청 가능초과 사용 시 별도 요금 발생 (실시간 누적됨)2. 요청 분류요청 구분특징과금 방식리스크Normal기본 Fast Request..

GPT한테 여러번 물어보면서 작성하였습니다 https://arxiv.org/abs/2507.04127 BYOKG-RAG: Multi-Strategy Graph Retrieval for Knowledge Graph Question AnsweringKnowledge graph question answering (KGQA) presents significant challenges due to the structural and semantic variations across input graphs. Existing works rely on Large Language Model (LLM) agents for graph traversal and retrieval; an approach that is senarxi..