인공지능
-
오픈AI, API에서의 프롬프트 캐싱 소개인공지능 2024. 10. 2. 14:11
API에서의 프롬프트 캐싱모델이 최근 본 입력에 대해 자동으로 할인을 제공합니다.많은 개발자가 AI 애플리케이션을 구축할 때 코드베이스를 편집하거나 챗봇과 긴 다중 턴 대화를 나누는 경우와 같이 여러 API 호출에서 동일한 컨텍스트를 반복적으로 사용합니다. 오늘 우리는 프롬프트 캐싱(Prompt Caching)을 도입하여 개발자가 비용과 지연 시간을 줄일 수 있도록 했습니다. 최근에 본 입력 토큰을 재사용함으로써, 개발자는 50% 할인을 받고 더 빠른 프롬프트 처리 시간을 얻을 수 있습니다.프롬프트 캐싱의 이용 가능성 및 가격오늘부터, 프롬프트 캐싱은 GPT-4o, GPT-4o mini, o1-preview, o1-mini의 최신 버전 및 해당 모델의 파인 튜닝된 버전에서 자동으로 적용됩니다. 캐싱된 프..
-
오픈AI, 비전 기능을 포함한 파인 튜닝 API 소개인공지능 2024. 10. 2. 13:54
비전 기능을 포함한 파인 튜닝 API 소개이제 개발자는 이미지와 텍스트로 GPT-4o를 미세 조정하여 비전 기능을 개선할 수 있습니다.오늘 우리는 GPT-4o에서 비전 파인 튜닝(Vision Fine-tuning)을 도입하여, 텍스트뿐만 아니라 이미지를 사용해 모델을 파인 튜닝할 수 있게 되었습니다. 개발자는 이미지 이해 능력을 강화하여, 향상된 시각적 검색 기능, 자율 주행 차량 또는 스마트 시티용 객체 탐지 개선, 더 정확한 의료 이미지 분석과 같은 애플리케이션을 구현할 수 있습니다.GPT-4o에서 파인 튜닝을 처음 도입한 이후, 수십만 명의 개발자들이 텍스트 전용 데이터셋을 사용해 모델을 커스터마이징하여 특정 작업의 성능을 개선했습니다. 그러나 많은 경우 텍스트만으로 모델을 파인 튜닝하는 것은 기대..
-
오픈AI, 실시간 API 소개인공지능 2024. 10. 2. 13:40
실시간 API 소개이제 개발자는 애플리케이션에 빠른 음성 대화 환경을 구축할 수 있습니다.오늘 우리는 실시간 API의 공개 베타 버전을 도입하여 모든 유료 개발자가 앱에서 저지연, 멀티모달 경험을 구축할 수 있도록 합니다. ChatGPT의 고급 음성 모드와 유사하게, 실시간 API는 API에서 이미 지원하는 6개의 미리 설정된 음성을 사용하여 자연스러운 음성 간 대화를 지원합니다.또한 실시간 API의 저지연 이점이 필요하지 않은 사용 사례를 지원하기 위해 Chat Completions API에 오디오 입력 및 출력을 도입하고 있습니다. 이 업데이트를 통해 개발자는 텍스트나 오디오 입력을 GPT-4o에 전달하고, 텍스트, 오디오 또는 둘 다의 형식으로 응답을 받을 수 있습니다.언어 학습 앱, 교육 소프트웨..
-
오픈AI DevDay 2024: AI 접근성과 비용 효율성을 높이는 4가지 업데이트인공지능 2024. 10. 2. 13:13
2024년 10월 2일에 개최된 OpenAI의 DevDay는 2023년의 화려한 이벤트와는 다르게, 더 차분한 분위기 속에서 이루어졌습니다. 대규모 제품 출시는 없었지만, 기존 AI 도구와 API에 대한 점진적인 개선에 중점을 둔 것이 이번 행사의 특징입니다. OpenAI는 AI 경쟁이 치열해지는 가운데 개발자를 강화하고 커뮤니티의 이야기를 조명하는 데 집중함으로써, 새로운 전략적 전환을 보여주었습니다.이번 DevDay에서 OpenAI는 4가지 주요 혁신을 발표했습니다: Vision Fine-Tuning, 실시간 API(Realtime API), 모델 증류(Model Distillation), 그리고 프롬프트 캐싱(Prompt Caching). 이들 도구는 OpenAI가 엔드 유저 애플리케이션 시장에서 ..
-
소프트뱅크, 오픈AI에 6600억 원 투자 생성형 AI 산업 도약인공지능 2024. 10. 2. 02:02
2024년 9월, 일본의 소프트뱅크(SB)가 오픈AI(OpenAI)에 5억 달러(약 6600억 원)를 투자하기로 했다는 소식이 전해지면서, 테크 업계에서 큰 주목을 받고 있습니다. 오픈AI는 생성형 인공지능(Generative AI)의 대표 기업으로서, 최근 몇 년간 AI 업계에서 선도적인 역할을 하고 있으며, 이로 인해 기업 가치가 급격히 상승하고 있습니다. 이 투자 결정은 소프트뱅크가 생성형 AI 시장에 본격적으로 진입한다는 것을 의미하며, 향후 AI 분야에서의 입지를 다질 기회로 평가되고 있습니다.소프트뱅크와 오픈AI: 뒤늦은 투자, 그러나 여전히 중요한 한 수소프트뱅크는 그간 스타트업에 대한 공격적인 투자를 통해 성장해왔으나, 최근 몇 년간 투자 손실로 인해 신중한 행보를 보여왔습니다. 특히 공유..
-
화웨이, 중국 엔비디아 시장 탈환 Ascend 910C GPU 샘플링 시작인공지능 2024. 10. 2. 01:49
화웨이가 자사의 최신 AI용 GPU, Ascend 910C를 중국 내 고객들에게 샘플링하기 시작했습니다. 이는 **South China Morning Post(SCMP)**의 보도에 따르면, 중국의 주요 서버 회사와 인터넷 기업들이 해당 GPU의 샘플을 수령했다고 전해졌습니다. Ascend 910C는 기존 Ascend 910B의 업그레이드 모델로 소개되었지만, 칩의 정확한 구성 요소는 아직 불분명합니다. 흥미롭게도, SemiAnalysis의 딜런 파텔은 이 910C 칩이 엔비디아의 차세대 Blackwell 기반 B20 GPU를 능가할 수 있을 것이라는 예측을 내놓았습니다.미국 수출 제한으로 인한 중국 AI 산업의 성장 정체미국의 수출 제한은 중국 AI 산업의 발전에 심각한 영향을 미치고 있습니다. 특히 ..
-
2024년 생성형 AI 트렌드 : AI 에이전트와 오픈소스인공지능 2024. 10. 1. 18:12
2024년의 생성형 인공지능(Generative AI) 시장은 두 가지 핵심 축인 AI 비서(AI Agents)와 오픈소스(Open Source)로 나뉩니다. 특히, AI 비서 기술은 자동차, 가전, 로봇 등 다양한 분야로 확장되고 있으며, 기업들이 속속 참여하면서 본격적인 경쟁 구도가 형성되고 있습니다. 동시에, 오픈소스의 발전은 AI의 투명성과 제어 가능성을 높이는 방향으로 나아가고 있으며, 이를 기반으로 새로운 비즈니스 모델을 모색하는 흐름이 주목받고 있습니다. 이번 블로그 글에서는 AI 비서와 오픈소스 트렌드에 대해 깊이 있게 분석하고, 한국과 글로벌 시장에서의 주요 사례를 살펴보겠습니다.1. AI 비서의 부상: 빅테크의 격전장2024년, AI 비서 기술은 텍스트, 음성, 영상, 이미지 등 다양한..
-
핵심은 인간, AI 발전은 더 똑똑한 인간 트레이너 덕분인공지능 2024. 10. 1. 17:38
인공지능(AI)의 초기 개발 단계에서 AI 모델들이 인간처럼 자연스러운 응답을 생성하기 위해서는 많은 저비용 노동자들이 필요했습니다. 그들은 이미지를 보고 그것이 자동차인지 당근인지 구분하는 등의 기초적인 작업을 수행했습니다. 그러나 시간이 흐르고 AI 모델이 더욱 발전하면서, AI가 이해하고 판단하는 방식 또한 더 정교해졌으며, 이에 따라 AI 훈련에 필요한 인간 트레이너의 역량도 급격히 높아졌습니다.AI 훈련의 새로운 흐름: 고도화된 전문가의 등장현재 AI 시장에서 경쟁이 치열해짐에 따라, 단순한 데이터 라벨링에서 벗어나 훨씬 복잡한 전문 지식이 필요하게 되었습니다. 예전에는 학부생들이 AI 모델에게 기본적인 사실을 가르치고 개선하는 데 기여할 수 있었다면, 이제는 의사, 재무 분석가, 회계사와 같은..