라이트비츠 랩스가 AI 추론용 소프트웨어 엔진 '인페라'를 정식 출시했다고 실리콘앵글이 9일 보도했다.회사 측에 따르면 인페라는 GPU에 연결된 제한된 고대역폭 메모리 밖으로 KV 캐시 데이터를 확장해 추론 성능과 비용 효율을 높이는데 초점이 맞춰져 있다.긴 컨텍스트 윈도를 쓰거나 동시 세션이 많은 대형언어모델 운영 환경을 겨냥하고 있다.인페라는 필요한 데이터를 미리 예측해 GPU 가까이에 배치하는 예측형 프리패치 기반으로 KV 캐시를 GPU 고대역폭 메모리와 D램, NVMe 스토리지 전반에 걸
스토리지 및 데이터 관리 기업 에버퓨어가 최근 공개된 MLPerf 스토리지 v3.0 벤치마크에서 ‘플래시블레이드//EXA’가 405B 및 1.25T 매개변수 모델의 체크포인팅과 KV 캐시 성능 전 부문에서 1위를 기록했다고 2일 밝혔다.AI 학습 과정에서 체크포인트를 저장하거나 추론 워크로드에서 KV 캐시 데이터를 검색할 때 스토리지 성능은 전체 시스템 효율을 좌우하는 요소로 작용한다. 스토
인기기사
Generic placeholder image
이한영 강원도의원 "현수막 걸고 자축할 때 아니다…예산 내실 면밀히 점검해야"
이한영 강원특별자치도의회 의원이 강원도의 국비 확보 성과에 대해 외형적 수치보다 사업의 질적 내용을 챙겨야 한다고 지적했다. 이 의원은 5일 SNS를 통해...
Generic placeholder image
30년 만에 고도완화...40층 이상 고층건물 들어선다
30년 만에 건축 고도가 완화될지 귀추가 주목된다.6일 제주특별자치도에 따르면 고도 완화를 담은 제주시·서귀포시 도시관리계획 변경안을 제주도의회 454회 정례회에 제출했다. 환경도시위원회는 오는 11일 안건을 심의한다.현재 고도 지구는 1996년 제주도 경관 고도 규제계획이 수립되면서 적용됐다.이번 고도 완화는 도시 외곽의 무분별한 개발을 막고 기존 도심에 주거·상업·복지 기능을 고밀도로 집약하는 압축도시를 실현하면서 건설경기를 부양하기 위해 마련됐다.주요 완화 내용은 ▲상업지역 최고 40층 ▲준주거지역
Generic placeholder image
김해평야 올해 첫 벼베기 시작했습니다
우리나라 3대 곡창지대로 알려진 김해평야에서 지난 4일 올해 첫 벼베기를 시작했다. 이날 김해 삼정동 이인규 쌀전업농김해시연합회장 논에서 조생종 해담벼를 수확했다
Generic placeholder image
전체 물가 떨어져도 추석 성수품은 ‘오른다’
가을 배와 조기 가격이 지난해보다 8% 넘게 오른데 이어 쌀, 달걀 등 주요 성수품도 치솟아 추석 차례상 부담이 커지고 있다. 농축수산물 전체 물가는 하락했지만
Generic placeholder image
[특징주] HD현대일렉트릭(267260), 데이터센터 전력 수요 폭발…북미서 질주
HD현대일렉트릭은 전력공급의 전 단계에 필요한 다양한 전기전자제품 및 에너지 솔루션을 제작 및 공급하는 기업이다. 올 2분기 연결기준 매출액은 1조1418억원, 영업이익 2870억원을 기록했다.
최신기사
Generic placeholder image
애플, 단백질 서열·3차원 구조 함께 만드는 AI '심플디자인' 공개
애플 연구진이 단백질 아미노산 서열과 3차원 구조를 함께 생성하는 인공지능 모델 '심플디자인'을 공개했다. 12일 IT매체 나인투파이브맥에 따르면 이 모델은 단백질 구조 예측을 넘어 설계까지 더 단순한 범용 구조로 처리하는 데 초점을 맞췄다.심플디자인의 핵심은 기존 단백질 설계 모델에서 흔한 다단계 학습을 줄인 점이다. 연구진은 논문 'SimpleDesign: A Joint Model for Protein Sequence and Structure Codesign'에서 심플디자인이 아미노산 서열과
Generic placeholder image
태화강을 걷고, 자연을 그리다…‘별이 빛난데이’ 두 번째 이야기
2시간전
한국장애인환경예술협회는 이달 8일부터 14일까지 울산문화예술회관 제3전시실에서 2026 별이 빛난데이 두번째 이야기­자연을 바라보는 그림전 ‘태화강을 걷다’를 진행하고 있다.강다연, 강성빈, 고동현, 권연우, 김나현, 김민준, 김시우, 김유경, 김호균, 김휘경, 박서아, 선시우, 송종구, 안드레, 예윤형, 이민지, 이석훈, 이재형, 이정현, 이혜연, 정경은, 정원교, 한선미 등 지역 장애작가 23명이 참여해 80여 점을 전시 중이다.푸른색 연작 작품들은 작가들이 직접 태화강의 생태를 체험하고 현장에서 교감하며 완성된
Generic placeholder image
엔비디아, 앤트로픽 IPO에 최대 100억달러 투입 저울질
엔비디아가 앤트로픽의 기업공개에 최대 100억달러를 투자하는 방안을 검토하고 있다. 12일 블록체인 매체 크립토폴리탄에 따르면 앤트로픽은 상장에 앞서 앵커 투자자 확보를 추진 중이다.앤트로픽은 최대 1000억달러를 조달하고, 기업가치는 2조달러에 가까운 수준을 목표로 하고 있다. 협상은 비공개로 진행 중이며 조건은 바뀔 수 있다. 엔비디아가 초기 투자자로 참여하면 일반 공모에 앞서 대형 투자자를 미리 확보하게 된다.엔비디아의 참여는 단순한 재무 투자에 그치지
Generic placeholder image
경기도교육청평생학습관, 스마트폰 잠시 멈춤! ‘폰 프리(Phone-free) 존’ 운영
휴대폰은 잠시 안녕! 독서와 소통이 살아나는 특별한 경험 경기도교육청평생학습관이 디지털 기기 중심의 ...
Generic placeholder image
박지원 "법원 결정 나오면 순천대 확정"…민형배 "그런 말 한 적 없다"
2시간전
박지원 더불어민주당 국회의원이 순천대의 국립의대 신설 선정과 관련해 "민형배 전남광주통합특별시장은 법원의 가처분결정이 나오는대로 순천대로 확정할 것이라고 했다"고 밝히자, 민 시장이 "그런말 한 적 없다"며 반박하고 나섰다. 민 시장은 12일 자신의 페이스북에 "어제 박지원 의원과 서부권 의료 문제를 두고 여러 의견을 나눴다"면서도 "몇