환각 검색결과 - 이투데이

검색결과 총430건

최신순 정확도순

비큐AI, AI 정보 검색 서비스 개발 완료…"자체 RAG 적용, 할루시네이션 해결 기대"

해당 신규 서비스는 생성형 AI의 고질적 문제인 할루시네이션(환각) 현상을 최소화하는 데 효과적인 해결책을 제시할 것으로 기대된다. 비큐AI가 개발한 AI 검색 서비스는 자체 구축한 검색증강생성(RAG) 시스템을 기반으로 사용자가 의도한 검색 내용을 신속·정확하게 찾아주는 솔루션이다. 특히 비큐AI만의 문맥 검색 알고리즘이 적용돼 ‘오늘’...

2024-09-19 14:18
[특허, 톡!] 특허심사 AI, ‘환각’ 조심해야

최근 주목받고 있는 챗GPT와 유사한 기술이 적용되는데, 대규모 언어 모델은 ‘환각(hallucination)’이라는 치명적인 약점을 가지고 있다. 환각 증상은 실제로 존재하지 않는 정보를 마치 사실인 것처럼 생성하는 현상으로, 작년 미국에서 30년 경력의 변호사가 챗GPT의 환각으로 생성된 거짓 판례를 법원에 제출하여 벌금형을 선고받은 사례도 있다. 이처럼, 특허 심사...

2024-09-18 18:41
‘강남 학원가 마약음료’ 일당, 최고 징역 18년 중형 확정

이 중 6명은 환각 증상 등을 경험했다고 한다. 길 씨와 박 씨는 마약 음료를 마신 학생들의 학부모에게 전화해 돈을 뜯어내려 했지만, 학부모들이 경찰에 신고해 돈을 받아내지는 못했다. 1심은 길 씨에게 징역 15년을 선고하고 250만 원의 추징을 명령했다. 박 씨는 징역 10년에 10억6050만 원 추징, 김 씨는 징역 8년에 4676만 원 추징, 이 씨는 징역 7년을 선고받았다....

2024-09-06 10:19
SKT, 美 퍼플렉시티와 손잡고 'AI 검색 혁명' 시동

또 검색 결과에 대한 정확한 출처를 제공해 할루시네이션(환각현상)도 줄인 점이 장점이라고 덧붙였다. 글로벌 시장 조사 업체 ‘마켓앤마켓(Market and Market)’에 따르면 대화형 AI 시장 규모는 2030년까지 연간 24.9%의 평균 성장률을 기록하며 성장세를 이어갈 전망이다. 2024년 132억 달러(한화 약 17조5천만 원)에서 2030년 499억 달러(한화 약 66조 원)로 성장할...

2024-09-04 09:51
'그알' 히데 하우스에서는 무슨 일이…미성년자 강간ㆍ약물 의혹에 "억울하다"

그걸 술에 타 먹으면 환각이 온다고 한다”라며 “그 애들은 갑자기 환각이 보이는지 울거나 소리 지르고 창문에 매달렸다. 화장실 들어가서 자해하기도 했다. 제가 그걸 빼앗아서 버렸더니 담배로 지지더라”라고 전했다. 아영과 지아 역시 헤데 하우스에 가득한 약을 봤다고 전했다. 그럼에도 신고하지 못한 것에 대해 지아는 “다른 피해자들도 가만히 있는데 내가...

2024-09-01 00:18
‘금쪽상담소’ 임현식, 농약 마셔 3일간 환각 봐…오은영 “슈퍼노인증후군”

형광등 주변으로 개미 수천 마리가 돌아다니는 게 환각처럼 보였다. 3일 후 정신이 돌아왔다”라고 당시를 회상했다. 그러한 일이 발생한 뒤에도 몇 년간 농약을 직접 쳤다는 임현식의 말에 사위는 “농약을 치시는데 굳이 하지 않으셔도 되는데 직접 하셔야 하는 기준이 있다”라고 한탄했다. 오은영은 “요즘 쉬지를 못하고 뭔가 해야 하는 분들이 많다....

2024-08-22 21:25
코오롱베니트, 동진쎄미켐에 AI 플랫폼 IBM ‘왓슨x’ 도입

코오롱베니트와 새롬정보시스템은 왓슨x 기반의 AI 및 데이터 플랫폼을 온프레미스(on-premise) 서버에 구축해 동진쎄미켐의 고유한 지식 자산 유출을 물리적으로 차단하고, 생성형 AI 학습 대상을 플랫폼 내부 데이터로 제한해 범용 LLM(거대언어모델)의 한계인 환각 현상을 최소화할 예정이다. 코오롱베니트는 왓슨x를 기반으로 국내 엔터프라이즈 AI 시장 공략을...

2024-08-12 09:34
코오롱베니트, 인사 AI 챗봇 ‘코아이봇’ 사내 도입

특히 AI 모델의 데이터 학습 및 연동 범위를 회사 내부 시스템으로 한정해 범용 AI 모델에서 흔히 발생하는 환각(할루시네이션) 현상을 최소화했다. 코오롱베니트는 코아이봇의 데이터 탐색 및 답변 품질을 고도화하기 위해 정식 출시 전 한 달 간의 베타테스트 기간을 거쳤다. 향후 코아이봇은 임직원의 질문 유형에 따라 해당 업무에 필요한 사내 시스템 기능을 즉각...

2024-08-05 10:19
국가 안보 최전선 ‘AI 안전연구소’…新 AI 제국주의 경쟁 책임진다

우리나라가 AI 리더십 확보를 위해 발 빠르게 움직여야 한다는 지적이 나온다. IT업계 관계자는 “환각, 딥페이크 등 AI 발전에 따른 문제점도 같이 발생하는 상황에서 AI 경쟁은 이제 안전의 싸움이라고 봐도 될 것”이라며 “AI 기술을 국가안보와 직결되는 일종의 공급망 문제로 보는 인식이 확산되며 AI의 안전성을 확보하는 게 관건이 됐다”고 말했다.

2024-08-05 05:00
폴라리스AI, 에이뉴트와 벡터 데이터베이스 활용 AI 모델 구축 MOU

벡터 DB는 생성형 AI의 고질적 문제점인 환각(Hallucination) 현상을 해결하는 검색 증강 생성(RAG)과 고객 중심의 맞춤형 AI 서비스를 구현하는데 핵심적인 기술이다. 에이뉴트는 AI 밸류체인 플랫폼 기업으로 데이터 생성 및 AI 모델 서비스 개발 전 조기에 대응이 가능한 기술 포트폴리오를 보유하고 있다. 에이뉴트가 공급 중인 독일 쿼드런트사의 ‘쿼드런트 벡터...

2024-07-31 14:13
[중앙은행 게임체인저 AI] 파월 대신 챗GPT가?...“금리 결정 인간 몫이나 예측은 가능”

잘못된 정보를 학습해 없는 사실을 그럴듯하게 늘어놓는 AI 특유의 ‘할루시네이션(환각)’으로 인한 편향적이나 부정확한 분석이 이뤄질 수 있기 때문이다. 중앙은행들의 AI 의존도가 높아질수록 해킹 위험과 같은 외부 리스크도 커지게 된다. AI 시스템은 클라우드 시스템을 기반으로 하는데, 이 클라우드가 해킹을 당하게 된다면 정책 판단을 위한 객관적이고...

2024-07-22 05:05
"귀신보다 무서워요"…'심야괴담회' 속 그 장면, 사람이 아니었다 [이슈크래커]

1월 종영한 드라마 '웰컴투 삼달리'는 딥페이크 기술로 '국민 MC' 송해의 젊은 시절을 재현했고, tvN 최고 시청률 기록을 쓴 '눈물의 여왕'은 생성형 AI로 주인공이 눈 덮인 자작나무 숲을 걷는 환각 장면을 연출했습니다. 이 밖에도 AI의 목소리와 진짜 가수의 목소리를 구분하는 음악 버라이어티 예능 KBS2 '싱크로유', 국내 최초 생성형 AI를 활용해 제작한 EBS...

2024-07-18 16:52
원티드랩, 경희대 경영대학과 생성형 AI 기술 활용 지원 업무협약

원티드 LaaS는 특히 비 개발자도 쉽게 생성형 AI 서비스를 만들고 활용할 수 있는 것이 강점으로, △다양한 LLM 모델(Open AI, Anthropic, Google, Naver HyperClova, Upstage) △환각현상 제어를 위한 RAG(검색증강생성) 기능 △자동화된 테스트 환경 △ 프로젝트 및 프리셋 단위 상세한 토큰 사용량·비용 관리 등을 지원한다. 원티드랩은 대학생뿐만 아니라 교직원도 해당...

2024-07-18 09:27
SAP “세계 선도 기업 많은 韓, AI 시대 주도할 것”

AI의 할루시네이션(환각)과 데이터 편향 문제에 대해 샤르마 총괄은 “리스크를 해결하기 위해 개발 단계에서부터 데이터 포인트별로 데이터를 보호할 수 있는 조치를 적용하고 있다”고 말했다. 끝으로 러셀 CRO는 “SAP는 30년 가까이 한국 시장에서 성장과 혁신을 함께한 것에 자부심을 느낀다”며 “앞으로도 한국 기업들이 글로벌 비즈니스 혁신을...

2024-07-09 15:25
맥북 던진 세종대왕?…‘AI 헛소리’ 잡는 이통3사

정보 유출 및 환각(AI가 부정확하거나 편향적인 정보를 사실인 것처럼 답변하는 것) 등 AI 활용에 따른 부작용 우려를 불식하려는 노력이다. 5일 업계에 따르면 이통3사는 자사 AI 서비스에 대한 인공지능 신뢰성 인증(CAT, Certification of Artificial Intelligence) 취득을 준비하고 있다. CAT는 한국정보통신기술협회(TTA)가 부여하는 민간자율 인증으로, AI...

2024-07-08 05:00
BHSN, 리걸 AI ‘앨리비’로 해외 시장 진출한다

김 CAIO는 “앨리비는 기업이 추구하는 가이드라인을 기반으로 답변하기 때문에 AI의 환각(할루시네이션)은 5% 미만”이라면서 “아예 다른 답변을 하는 경우는 없다”고 말했다. 임 대표는 “앨리비는 법률 업무 효율화에 집중했던 기능을 확대해 기업·기관·로펌 등의 비즈니스 의사결정을 지원하고 사업 전략 구축을 돕는 종합 B2B 솔루션으로 서비스 범위를...

2024-07-03 16:45
로앤컴퍼니, 베일 벗은 법률 AI 어시스턴트 ‘슈퍼로이어’…업무 환경 혁신

최종 답변을 제공하기 전 신뢰할 수 있는 데이터에 근거한 정보인지 한 번 더 확인하는 ‘팩트체커’를 구축해 할루시네이션(생성형 AI가 주어진 질문에 대해 잘못된 응답을 출력하는 현상·환각 현상)을 최소화한 것도 특징이다. 로앤컴퍼니는 허위 정보 생성 방지와 관련한 3건의 특허를 출원했으며, 꾸준한 기술 고도화로 할루시네이션 ‘0%’를 달성하는 것이...

2024-07-01 09:21
잇따른 안타까운 선택…“미 해군 특수부대, 특이한 뇌 손상 있다”

포병 부대원은 전투에서 수천 발의 포탄을 발사한 뒤 환각과 정신질환에 시달리며 집에 돌아왔고, 박격포 대원들도 두통이나 기억력 저하를 호소한 것으로 나타났다. 폭발음 노출에 따른 뇌 손상은 다양한 종류의 화기에서 영향을 받는다는 징후가 있다고 NYT는 지적했다. 폭발음 노출에 따른 뇌 손상은 아직 생존 중인 네이비실 대원들에게 광범위하게 만연한...

2024-07-01 08:22
원티드랩, 네이버클라우드와 직장인 대상 ‘프롬프톤’ 개최

원티드 LaaS는 원티드랩이 다수 생성형 AI 서비스를 개발·운영하며 쌓은 노하우를 집약한 솔루션으로, △비 개발자도 생성형 AI 서비스를 쉽게 개발할 수 있는 환경 △다양한 LLM 모델(하이퍼클로바X 외 6종) △환각 현상 제어를 위한 검색증강생성(RAG) 기능 △ 자동화된 테스트 환경 △ 프로젝트 및 프리셋 단위 상세한 토큰 사용량·비용 관리 등을 지원한다....

2024-06-19 14:53
업스테이지, 신한투자증권 특화 생성형 AI 서비스 개발

특히, 보안과 정확성이 생명인 금융투자업계를 중심으로 기업 내부 데이터만 학습해 정보 유출을 차단하고, 왜곡된 정보를 생성하는 ‘환각현상’을 최소화하는 ‘프라이빗(Private) 대규모언어모델(LLM)’이 핵심 기반으로 떠오르고 있다. 이에 업스테이지와 신한투자증권은 양사의 전문성을 바탕으로 금융투자업 특성에 맞는 프라이빗 LLM 구축에 나선다....

2024-06-13 09:16

1 2 3 4 5 6 7 8 9 10