AI가 설계한 생물무기 무기 경쟁
관리자
본문
AI가 설계한 생물무기 무기 경쟁
사이버보안 전문 정보
새로운 생물학적 병원체를 발명/설계하는 AI 시스템과 병원체가 생성되기 전에 이를 감지하는 AI 시스템 간의 군비 경쟁에 관한 흥미로운 기사: 팀은 기본 테스트로 시작했습니다. AI 도구를 사용하여 독소 리신의 변형을 설계한 다음 DNA 명령을 선별하는 데 사용되는 소프트웨어에 대해 테스트합니다. 테스트 결과에 따르면 위험한 단백질 변이체가 기존 스크리닝 소프트웨어를 통과할 위험이 있으므로 이 상황은 제로데이 취약점과 동일하게 처리되었습니다. [...] 원래 테스트의 세부 사항은 광범위한 독성 단백질에 대한 접근 방식을 확장하는 훨
핵심 특징
고품질
검증된 정보만 제공
빠른 업데이트
실시간 최신 정보
상세 분석
전문가 수준 리뷰
상세 정보
핵심 내용
새로운 생물학적 병원체를 발명/설계하는 AI 시스템과 병원체가 생성되기 전에 이를 감지하는 AI 시스템 간의 군비 경쟁에 관한 흥미로운 기사: 팀은 기본 테스트로 시작했습니다. AI 도구를 사용하여 독소 리신의 변형을 설계한 다음 DNA 명령을 선별하는 데 사용되는 소프트웨어에 대해 테스트합니다. 테스트 결과에 따르면 위험한 단백질 변이체가 기존 스크리닝 소프트웨어를 통과할 위험이 있으므로 이 상황은 제로데이 취약점과 동일하게 처리되었습니다. [...] 원래 테스트의 세부 사항은 광범위한 독성 단백질에 대한 접근 방식을 확장하는 훨씬 더 큰 분석의 일부로 오늘 제공되고 있습니다. 연구원들은 72개의 독소로 시작하여 3개의 오픈 소스 AI 패키지를 사용하여 총 약 75,000개의 잠재적인 단백질 변이체를 생성했습니다. 그리고 여기서 상황이 조금 복잡해집니다
상세 분석
. AI가 설계한 단백질 변이체 중 다수는 활성 독소를 생성하기 위해 올바른 구성으로 접히지 못하거나 미묘하게 또는 파국적으로 실패하여 기능하지 않게 될 것입니다. [...] 어쨌든 75,000개의 디자인을 모두 암호화하는 DNA 서열이 잠재적 위협에 대한 DNA 주문을 선별하는 소프트웨어에 입력되었습니다. 매우 분명한 한 가지는 이러한 변형 디자인을 위협적인 것으로 표시하는 4가지 심사 프로그램의 능력에 큰 차이가 있다는 것입니다. 그 중 두 개는 꽤 잘 해내는 것 같았고, 하나는 혼합되어 있었고 다른 하나는 대부분 통과했습니다. 이 성능에 대응하여 세 가지 소프트웨어 패키지가 업데이트되었으며, 이를 통해 변형을 선택하는 능력이 크게 향상되었습니다.
정리
또한 4가지 스크리닝 패키지 모두에서 분명한 추세가 나타났습니다. 즉, 변형이 구조적으로 원본에 가까울수록 패키지(패치 전후 모두)가 이를 위협으로 표시할 가능성이 더 높았습니다. 모든 경우에 유사한 구조로 접힐 가능성이 없는 변형 디자인 클러스터도 있었으며 일반적으로 위협으로 표시되지 않았습니다. 연구는 모두 예비적인 것이며 실험이 현실과 다른 방식이 많이 있습니다. 그러나 나는 이 특별한 군비 경쟁에 대해 낙관적이지 않습니다. 나는 치명적인 것을 만들어내는 AI 시스템의 능력이 그 구성 요소를 감지하는 AI 시스템의 능력보다 더 빠르게 발전할 것이라고 생각합니다.
자주 묻는 질문
Q. 어떤 정보를 제공하나요?
A. 사이버보안 관련 최신 정보를 제공합니다.
Q. 신뢰할 수 있나요?
A. 검증된 출처만 선별합니다.
Q. 더 궁금한 점은?
A. 댓글로 문의하세요.
원문 출처
이 글은 원본 기사를 참고하여 작성되었습니다.
댓글목록0