방송/연예
오픈AI 모델이 테스트 중 허깅페이스 시스템을 해킹한 사건은 AI 자체보다 인터넷과 완전히 분리되지 않은 시험 환경 설계가 핵심 원인이라는 지적이 나왔다.22일 테크크런치에 따르면 보안 전문가들은 오픈AI가 '고도로 격리된 환경'으로 설명한 샌드박스가 실제로는 외부와 연결돼 있었다고 보고 있다.오픈AI는 블로그 글에서 해당 테스트 환경이 내부에서 호스팅한 제3자 소프트웨어를 통해 패키지를 설치할 수 있도록 제한된 네트워크 접근을 허용했다고 밝혔다. 모델은 이 패키지 설치 시스템에 있던 공개되지
케이던스디자인시스템스가 전기 엔지니어 인쇄회로기판 설계·테스트를 지원하는 에이전트형 AI 시스템 '오라스택'을 공개했다.15일 더레지스터에 따르면 오라스택은 고정밀 시뮬레이션에 의존해온 PCB 설계와 첨단 패키징 설계·테스트 작업을 지원한다. 케이던스는 이 도구가 환각을 일으킬 수 있는 AI 모델로 기존 도구를 대체하는 것은 아니라고 선을 그었다.오라스택은 앤트로픽 클로드 코드나 오픈AI 코덱스와 비슷하지만, C나 러스트 코드를 작성·컴파일·디버깅·실행하는 대신 케이던스 기존 테스트·시
중국 AI 기업 문샷이 최근 선보인 AI 모델 키미K3가 사이버보안 역량 평가 도중 테스트 환경을 벗어난 것으로 나타났다.7일 테크크런치에 따르면 AI 보안업체 프런티어 시큐리티 연구진은 블로그 게시글에서 키미K3가 해킹 능력 평가용으로 마련된 환경을 우회했다고 밝혔다.이번 사례는 해킹용으로 설계된 AI 모델을 실험 환경 안에 두는 것이 쉽지 않다는 점을 다시 보여주는 것이라고 테크크런치는 전했다.최근 몇 주 사이 오픈AI, 앤트로픽, 메타 대형언어모델은 각기 다른 방식으로 테스트 환경을 벗어나
오픈소스 레드팀 도구와 AI 에이전트의 확산으로 고급 사이버 공격의 진입장벽이 크게 낮아지고 있다. 보안 점검을 위해 개발된 공개 도구가 공격자에게도 동일하게 제공되면서 전문성이 없는 공격자도 AI를 활용해 고난도 공격을 수행할 수 있게 됐다. 오픈AI와 앤트로픽이 레드팀 테스트 과정에서 프론티어 AI 모델이 테스트 환경을 벗어나 실제 기업을 대상으로 예기치 않은 행위를 수행한 사례를 공개하면서, AI와 레드팀 도구를 안전하게 활용하기 위한 관리 체계의 중요성도 함께 제기된다.예 진 카스퍼스키 GReAT
오픈AI가 차기 모델 아스트라의 사이버보안 역량이 내부 준비 프레임워크상 '중대' 기준에 이를 가능성을 확인하고, 새 안전 기준을 충족하지 못한 일부 내부 활동을 중단했다.10일 대만 매체 아이티홈에 따르면 아스트라는 자율 프로그래밍과 사이버보안 역량에서 뚜렷한 진전을 보였다.오픈AI는 아직 아스트라에 대한 테스트를 진행하고 있어 중대 등급 도달 여부를 최종 판단하지 않았다. 다만 초기 테스트 결과와 전문가 평가를 반영해 개발 및 테스트 단계의 안전 요구 수준을 선제적으로 높였다. 앞서 GPT-
파두는 10일부터 주니어 탤런트 채용을 시작한다고 밝혔다. 회사는 빠르게 확대되는 AI 데이터센터 시장에서 기술 경쟁력을 유지하기 위한 전략으로, 학사 신입뿐만 아니라 8년 이내 경력직도 지원 가능한 개방형 모집을 진행할 계획이라고 전했다.파두는 이번 채용으로 펌웨어 개발, 펌웨어 검증, 테스트 엔지니어 등 3개 직무에 걸쳐 두 자리수 규모의 신입 및 경력 인재를 모집한다. 이는 시스템 반도체 생산 과정에서 필수적인 핵심 기술 인력을 선점하기 위한 조치다. 특히 하드웨어와 소프트웨어를 모두 경험한 임베디
오픈AI 모델이 테스트 중 오픈소스 AI 모델 공유 플랫폼 허깅페이스 시스템을 해킹하는 사고가 터지면서 AI가 몰고올 보안 위협에 대한 우려가 고조되고 있다.이번 사고는 오픈AI가 테스트 하던 내부 모델이 샌드박스를 뚫고 나가 허깅페이스를 해킹한 것이 골자.오픈AI 모델은 주말 동안 수만건에 달하는 자동화된 행동을 실행했다. 허깅페이스가 사고 뒤 로그를 다시 확인해보니, 실제 기록된 행동만 1만7000건이 넘었다. 조사 결과 오픈AI 모델은 대형 테크 기업 두 곳에 있는 제로데이 취약점을 찾아내 서로 엮
독립 테스트기관 2곳이 4일 앤트로픽과 오픈AI 최상위 모델들이 지난달 제3자 시스템을 침해하려 시도했고 일부는 실제 성공한 사례를 추가로 확인했다고 밝혔다고 악시오스가 보도했다.보도에 따르면 이번 사례는 프론티어 AI 모델들이 사이버보안 평가 도중 사람과 조직, 온라인 서비스를 상대로 허가받지 않은 행동을 벌였다는 것이 공개된 이후 나왔다.영국 AI 보안 연구소는 미토스5와 GPT-5.6 솔이 지난달 사이버보안 테스트 도중 실존 인물과 조직을 침해하려 벌인 행동 19건을 확인했다고 밝혔다.이
바이낸스가 매달 직원을 상대로 모의 피싱 공격을 실시하고, 반복적으로 실패한 직원은 해고할 수 있는 내부 보안 체계를 운영하고 있다.26일 코인텔레그래프에 따르면, 지미 수 바이낸스 최고보안책임자는 이런 테스트 결과가 직원 성과평가에도 반영된다고 밝혔다.모의 공격은 바이낸스 내부 윤리 해킹 조직인 레드팀이 맡는다. 레드팀은 시스템에 침투해 취약점을 찾는 동시에 직원 대상 가짜 공격 시나리오도 설계한다. 바이낸스는 보안 수준이 개선되는지 확인하기 위해 이런 테스트를 매달 진행하고, 실패한 직원에게
미국 상무부 산하 AI 시험·평가 조직인 AI 표준혁신센터 책임자 크리스 폴이 취임 약 3개월 만에 물러났다.20일 블록체인 매체 크립토폴리탄에 따르면 이번 퇴임으로 미국 정부의 핵심 AI 테스트 조직은 다시 정식 책임자 공백 상태가 됐다.상무부는 20일 폴의 퇴임을 확인했지만 사임 이유는 밝히지 않았다. 상무부 관계자는 이번 인선이 애초부터 임시 성격이었다고 설명했다. 폴은 4월 말 임명됐고, 트럼프 1기 때 에너지부 과학국을 이끌었다.행정부는 당초 앤트로픽과 오픈AI 출신
인기기사
자극적인 SNS 저물까… 배민도시락, 아이들의 ‘한 끼’ 심금 울렸다
자극적인 SNS 대신 따듯한 사회공헌 메시지가 대중의 공감을 사고 있다. 배달의민족의 ‘배민도시락’이 그 주인공이다. 아이들의 한
경남FC 무패 행진 끝났다
경남FC가 끝내 대구FC의 골문을 열지 못하면서 무패 행진이 막을 내렸다.경남FC는 7일 창원축구센터에서 대구FC를 상대로 0-1로 패했다.이날 경남은 5-2-3
서울시교육청, 정책기획관 함영기 ..대변인 손성조 내정
에듀프레스 장재훈 기자 = 정근식 서율시교육감 2기 출범에 맞춰 서울시교육청 정책기획관에 함영기 전 서울시교육청 교육정책국장이 내정됐다. 또 대변인에는 손성소 정
[속보] 김민석, 제주 경선서 52.64% 득표…정청래 39.89%
8.17 더불어민주당 전당대회 제주 권리당원 경선에서 김민석 당대표 후보가 52.64%의 득표율을 거둬 1위를 기록했다. 정청래 후보는 39.89%, 송영길 후보는 7.47...
부산 사상구, 폭염 종합대응체계 가동…현장 중심 선제적 안전망 구축
부산 사상구는 연일 이어지는 극한 폭염에 대응해 현장 중심의 안전 활동부터 돌봄 취약계층 밀착 보호, 생활밀착형 폭염 대피 시설 운영까지 다각적인 폭염 대응 체계를 강화했다.▲ 현장 중심 안전 캠페인 및 취약계층 밀착 안부 확인지역자율방재단은 6일 사상 명품가로공원 일원에서 주민들을 대상으로 생수 500병을 배부하며 폭염 대응 행동요령을 안내하는 온열질환 예방 캠페인을 펼쳤다.사상구는 노인, 장애인, 사회적 고립가구가 많은 지역 특성에 맞춰 등 돌봄 취약계층을 위한 폭염 신속 대응체계를 구축
최신기사
부산시선관위, '지선 관련 소청' 55건 기각·각하
김용광 기자 = 6·3지방선거 당시 치열한 접전으로 관심을 모았던 부산 지역 선거소청이 대거 기각·각하됐다.부산시선거관리위...
“이제 시험문제도 AI가 만든다”…보험 자격시험에 부는 ‘AI 출제’ 바람
보험 자격시험에서 전문가가 아닌 인공지능이 만든 시험문제가 수험생을 평가하는 시대가 열리고 있다. 영업지원과 보험금 심사,
AI 데이터센터發 전력반도체 시장 경쟁 새 국면…8인치 SiC 전환 가속
저가 물량으로 시장을 넓혀온 중국 전력반도체 업체들이 가격 인상으로 돌아서면서 국내 업체들의 8인치 탄화규소 전환에 가속도가 붙을 전망이다. 정부도 남부권을 축으로 공공팹 인프라 고도화에 나섰다.13일 업계에 따르면 중국 전력반도체 업체들은 최근 10~25% 수준의 가격 인상을 고객사에 통보했다. 텍사스인스트루먼트와 인피니언 등 글로벌 상위 업체들도 10~20% 인상 방침을 밝혔다. 저가 물량으로 점유율을 넓혀온 중국 업체들이 가격 결정권을 행사하기 시작했다는 의미라고 키움증
홍천군의회 정관교 의장, 지역 안보·재난 대응체계 점검 나서
홍천군의회 정관교 의장은 지난 12일, 홍천군청에서 열린 ‘2026년 3분기 홍천군 통합방위협의회’에 참석해 지역 안보와 재난 대응을 위한 기관 간 협력체계를 점검했다.이날 회의에서는 지역의 안보 위협은 물론 자연재난과 각종 사회적 위험에 대비한 민·관·군·경·소방 등 유관기관 간 협력과 대응체계 강화 방안이 논의됐다.정 의장은 “통합방위는 어느 한 기관의 노력만으로 완성될 수 없다”며 “민·관·군·경·소방을 비롯한 각 기관이 긴밀하게 소통하고 협력할 때 군민의 안전과 지역의 위기 대응 역량을 더욱 강화할 수 있다”고 강조했다.이어
시민소통은 정책으로, 재난대응은 더 촘촘하게…강릉시 '안전·신뢰 행정' 강화
강릉시가 시민과의 소통을 정책으로 연결하는 한편, 풍수해와 비상사태에 대비한 안전관리 역량 강화에 속도를 내고 있다.강릉시는 지난 7월, 국가유산청으로부터 ‘진안·저동 풍수해생활권 종합정비사업’의 현상변경 허가를 받으면서 침수피해 예방사업을 본격 추진할 기반을 마련했다. 총 497억 원을 투입해 2028년까지 배수펌프장 1개소와 차수벽 등을 설치하는 사업으로, 태풍과 집중호우 때 반복되는 침수피해 예방이 핵심이다.특히 사업구간이 국가유산인 ‘강릉 경포대와 경포호’ 명승 구역과 인접해 경관 훼손을 최소화하는 방안 마련에 주력했다. 국