라이트비츠 랩스가 AI 추론용 소프트웨어 엔진 '인페라'를 정식 출시했다고 실리콘앵글이 9일 보도했다.회사 측에 따르면 인페라는 GPU에 연결된 제한된 고대역폭 메모리 밖으로 KV 캐시 데이터를 확장해 추론 성능과 비용 효율을 높이는데 초점이 맞춰져 있다.긴 컨텍스트 윈도를 쓰거나 동시 세션이 많은 대형언어모델 운영 환경을 겨냥하고 있다.인페라는 필요한 데이터를 미리 예측해 GPU 가까이에 배치하는 예측형 프리패치 기반으로 KV 캐시를 GPU 고대역폭 메모리와 D램, NVMe 스토리지 전반에 걸
스토리지 및 데이터 관리 기업 에버퓨어가 최근 공개된 MLPerf 스토리지 v3.0 벤치마크에서 ‘플래시블레이드//EXA’가 405B 및 1.25T 매개변수 모델의 체크포인팅과 KV 캐시 성능 전 부문에서 1위를 기록했다고 2일 밝혔다.AI 학습 과정에서 체크포인트를 저장하거나 추론 워크로드에서 KV 캐시 데이터를 검색할 때 스토리지 성능은 전체 시스템 효율을 좌우하는 요소로 작용한다. 스토
인기기사
Generic placeholder image
“일도 돌봄도 숲에서 함께”…국립진안고원산림치유원 가족형 워케이션
국립진안고원산림치유원은 9월3일부터 5일까지 한국산림복지진흥원 직원 가족을 대상으로 ‘가족형 산림워케이션’을 운영했다.이번 프로그램은 양육기 근로자
Generic placeholder image
전체 물가 떨어져도 추석 성수품은 ‘오른다’
가을 배와 조기 가격이 지난해보다 8% 넘게 오른데 이어 쌀, 달걀 등 주요 성수품도 치솟아 추석 차례상 부담이 커지고 있다. 농축수산물 전체 물가는 하락했지만
Generic placeholder image
30년 만에 고도완화...40층 이상 고층건물 들어선다
30년 만에 건축 고도가 완화될지 귀추가 주목된다.6일 제주특별자치도에 따르면 고도 완화를 담은 제주시·서귀포시 도시관리계획 변경안을 제주도의회 454회 정례회에 제출했다. 환경도시위원회는 오는 11일 안건을 심의한다.현재 고도 지구는 1996년 제주도 경관 고도 규제계획이 수립되면서 적용됐다.이번 고도 완화는 도시 외곽의 무분별한 개발을 막고 기존 도심에 주거·상업·복지 기능을 고밀도로 집약하는 압축도시를 실현하면서 건설경기를 부양하기 위해 마련됐다.주요 완화 내용은 ▲상업지역 최고 40층 ▲준주거지역
Generic placeholder image
울산가톨릭문인협회, 첫 사화집 ‘봄 빛, 가을 소금’ 출간
울산가톨릭문인협회가 37인 사화집 을 출간했다. 지난 2024년 2월15일 창립 후 울산 지역 천주교 성지 순례와 문학사진전 순회 전시, 신앙의 색채: ‘예술로 그리다’전 참여 등 꾸준히 활동 반경을 넓혀온 울산가톨릭문인협회의 첫 사화집이다. 이 책에는 시 41편, 시조 9편, 동시 2편, 평론 1편, 동화 1편, 소설 1편, 기획 ‘신앙 산문’ 1편이 실려 있다. 기획으로 실린 김영곤 신부의 ‘신앙의 기억’은 신앙의 기억을 보존하고 다음 세대에 전하는 일이 곧 신앙의 계승이며 역사 만들
Generic placeholder image
김해평야 올해 첫 벼베기 시작했습니다
우리나라 3대 곡창지대로 알려진 김해평야에서 지난 4일 올해 첫 벼베기를 시작했다. 이날 김해 삼정동 이인규 쌀전업농김해시연합회장 논에서 조생종 해담벼를 수확했다
최신기사
Generic placeholder image
이번 가을,멀리 떠나지 말고 서울 골목으로!
서울 골목 구석구석 모두 축제 중 12일 서울시에 따르면 야장부터 게임·미식·예술까지 서울 곳곳에서 로컬 축제가 진...
Generic placeholder image
아이폰 듀오 폴더블 패널, 삼성 단독 공급설…장당 250달러 거론
애플이 삼성디스플레이와 아이폰 듀오용 폴더블 패널을 두고 3년 독점 공급 계약을 맺었다는 주장이 나왔다. 11일 IT매체 나인투파이브맥에 따르면 웨이보 유출자 인스턴트 디지털은 패널 1장 가격이 약 250달러라고 밝혔다.인스턴트 디지털의 주장대로라면 삼성디스플레이는 아이폰 듀오와 후속 모델에 들어갈 폴더블 패널을 3년간 단독 공급한다. 이 유출자는 해당 패널을 아이폰 듀오의 가장 비싼 핵심 부품 가운데 하나로 지목했다.아이폰 듀오의 세부 부품 원가를 신뢰성 있게 보여주는 자료는 아직 없다. 디스
Generic placeholder image
경기도교육청평생학습관, 스마트폰 잠시 멈춤! ‘폰 프리(Phone-free) 존’ 운영
휴대폰은 잠시 안녕! 독서와 소통이 살아나는 특별한 경험 경기도교육청평생학습관이 디지털 기기 중심의 ...
Generic placeholder image
이더리움 8% 급등…24시간 숏 청산 2억5500만달러
이더리움이 장중 8.3%까지 오르며 3주 만에 가장 큰 상승폭을 기록했다. 12일 블록체인 매체 크립토폴리탄에 따르면 24시간 동안 청산된 이더리움 숏 포지션은 2억5500만달러를 넘었다.같은 기간 비트코인 숏 포지션 손실은 1억7200만달러였다. 통상 레버리지 청산 규모는 비트코인이 더 큰 경우가 많지만, 이번에는 이더리움에 손실이 더 집중됐다.청산은 짧은 시간에 몰렸다. 코인글래스 집계 기준 이더리움 포지션 약 1억8800만달러가 1시간 만에 청산됐다. 암호화폐 시
Generic placeholder image
인하대 2027학년도 수시모집 경쟁률 13.9대 1
13분전
인하대학교 2027학년도 수시모집 원서접수 결과 2천662명 모집에 3만6천992명이 지원하여 13.90대 1의 경쟁률을 기록했다.주요 전형별로 살펴보면 학생부종합)전형은 11.14대 1, 학생부종합)전형은 8.43대 1, 학생부교과전형은 438명 모집에 2천762명 지원하여 6.31대 1의 경쟁률을 기록했다. 논술우수자전형은 457명 모집에 1만6천831명이 지원해 36.83대 1의 경쟁률을 보였으며, 실기