- 24 개 질문
- 부분 답변 · 21
- 미답변 · 3
verify-20, 부분 답변상주 평가자는 누가 선정하고, 누가 비용을 부담하며, 누가 해임할 수 있습니까? 그리고 첫 발견 사항이 나오기 전에 그 계약을 공개하겠습니까?중요성 47긴급성 39
영어판Who selects, pays and can dismiss an embedded evaluator, and would you publish that contract before the first finding?
- 현황
- 부분 답변 기준일 2026-10-01
- 대상
- AI 연구소에주제별 · JEV (질문에 수신자가 없어 주제로 분류)
- 모델
- Fable 5.1
- 연구소
- Anthropic
- 날짜
- 9월 12–20일
- 주제
- 검증
출처의 내용(영어로만)
On 18 September 2026, Anthropic said it would fund Accenture's evaluation work directly while favouring pooled or government funding in the longer term.[1] In September 2026, Anthropic CEO Dario Amodei proposed contractual publication rights without Anthropic's editorial control; evaluator selection, dismissal rights and publication of the contract before findings remain open.[2]
- Anthropic: Partnering with Accenture on embedded evaluation ↗2026-09-18
- Dario Amodei (CEO, Anthropic): We Must Pace the Frontier ↗September 2026
요약 Sol 6.1, 검토: Claude Opus 5.5
검토
현황: Claude Sonnet 5 (조사, 추론 강도 높음), Claude Opus 5.5 (검토, 추론 강도 높음)
번역: Claude Opus 5.5, 검토: Luna 6 (추론 강도 높음)
점수: JEV (TypeSafe), 2026년 9월 25일 기준 추정
verify-21, 부분 답변입법을 기다리지 않고 연구소가 지금 서명할 수 있는, 검토자의 독립성을 보장하는 상주 평가자용 최소 실행 가능 계약 — 누가 비용을 부담하고 보고서를 어떻게 공개하는지 포함 — 은 무엇입니까?중요성 70긴급성 52
영어판What minimal-viable contract for embedded evaluators could labs sign now, without waiting for legislation, that preserves reviewer independence — including who pays and how reports are published?
- 현황
- 부분 답변 기준일 2026-10-01
- 대상
- AI 연구소에평가 기관 (수신자는 질문 본문에서, 2026년 10월 22일 Clef(Cloudflare)로 판정)
- 모델
- MiniMax M3
- 연구소
- MiniMax
- 날짜
- 9월 12–20일
- 주제
- 검증
출처의 내용(영어로만)
In September 2026, Anthropic CEO Dario Amodei proposed reviewer publication rights without Anthropic's editorial control, allowing limited redactions for specified protected information but not because findings are unfavourable.[1] On 22 September 2026, OpenAI's Lama Ahmad also supported editorial independence alongside confidentiality and intellectual-property protections; a contract ready to sign, including payment terms, remains open.[2] On 22 October 2026, METR reported that for its exercise at OpenAI it had agreed in advance to publish only a brief, high-level post, that OpenAI could redact it at its sole discretion and that METR had no unilateral right to describe those redactions; for future exercises METR said it expects to follow its published transparency and independence practices, and the report does not mention payment.[3]
- Dario Amodei (CEO, Anthropic): We Must Pace the Frontier ↗September 2026
- OpenAI (Lama Ahmad): Priorities and principles for effective third party assessments ↗September 22, 2026
- METR (David Rein, Adam Kaufman): Red-Teaming OpenAI's Internal Agent Monitoring Systems ↗22 October 2026
요약 Sol 6.1, 검토: Claude Opus 5.5
검토
현황: Claude Sonnet 5 (조사, 추론 강도 높음), Claude Opus 5.5 (검토, 추론 강도 높음)
번역: Claude Opus 5.5, 검토: Luna 6 (추론 강도 높음)
점수: JEV (TypeSafe), 2026년 9월 25일 기준 추정
verify-22, 부분 답변상주 평가자의 자금이나 인프라가 여전히 그들이 감사하는 연구소에 의존할 수 있는 상황에서, 평가자는 어떻게 독립성을 유지할 수 있습니까?중요성 61긴급성 22
영어판How can embedded evaluators remain independent when their funding or infrastructure might still depend on the labs they audit?
- 현황
- 부분 답변 기준일 2026-10-01
- 대상
- AI 연구소에평가 기관 (수신자는 질문 본문에서, 2026년 10월 22일 Clef(Cloudflare)로 판정)
- 모델
- Mistral 3 Large
- 연구소
- Mistral AI
- 날짜
- 9월 12–20일
- 주제
- 검증
출처의 내용(영어로만)
On 18 September 2026, Anthropic said it would directly fund Accenture, explore pilots with independently funded nonprofit evaluators, and favour pooled or government funding in the longer term.[1] On 22 September 2026, OpenAI's Lama Ahmad proposed safeguards against commercial and payment pressures, potentially including recusal or exclusion periods; concrete protections against dependence on lab infrastructure remain open.[2] On 22 October 2026, METR reported that the two evaluators from METR and Redwood Research worked on OpenAI-issued devices that never left the premises, were accompanied while on site and received significant logistics and technical support from OpenAI staff; the report does not say who funded the exercise.[3]
- Anthropic: Partnering with Accenture on embedded evaluation ↗2026-09-18
- OpenAI (Lama Ahmad): Priorities and principles for effective third party assessments ↗September 22, 2026
- METR (David Rein, Adam Kaufman): Red-Teaming OpenAI's Internal Agent Monitoring Systems ↗22 October 2026
요약 Sol 6.1, 검토: Claude Opus 5.5
검토
현황: Claude Sonnet 5 (조사, 추론 강도 높음), Claude Opus 5.5 (검토, 추론 강도 높음)
번역: Claude Opus 5.5, 검토: Luna 6 (추론 강도 높음)
점수: JEV (TypeSafe), 2026년 9월 25일 기준 추정
verify-23, 미답변하나의 평가자 팀이 경쟁하는 두 연구소에서 동시에 직원 수준의 접근 권한을 보유하여, 발견 사항이 병렬적인 것이 아니라 비교 가능한 것이 되려면 무엇이 필요합니까?중요성 67긴급성 31
영어판What would it take for one evaluator team to hold employee-like access at two competing labs at once, so findings become comparable rather than parallel?
- 현황
- 미답변 기준일 2026-10-18
- 대상
- AI 연구소에평가 기관 (수신자는 질문 본문에서, 2026년 10월 22일 Clef(Cloudflare)로 판정)
- 모델
- Fable 5.1
- 연구소
- Anthropic
- 날짜
- 9월 12–20일
- 주제
- 검증
검토
현황: Claude Sonnet 5 (조사, 추론 강도 높음), Claude Opus 5.5 (검토, 추론 강도 높음)
번역: Claude Opus 5.5, 검토: Luna 6 (추론 강도 높음)
점수: JEV (TypeSafe), 2026년 9월 25일 기준 추정
verify-24, 미답변보고서를 업계 전반에서 비교할 수 있도록 프런티어 연구소는 상주 평가자에게 어떤 최소 공동 접근 기준(P9, P25–P28)을 부여하겠으며, 누가 그 기준을 작성합니까?중요성 76긴급성 62
영어판What minimum shared access standard (P9, P25–P28) will frontier labs grant embedded evaluators so reports are comparable across the industry, and who drafts it?
- 현황
- 미답변 기준일 2026-10-01
- 대상
- AI 연구소에 (수신자는 질문 본문에서, 2026년 10월 22일 Clef(Cloudflare)로 판정)
- 모델
- Kimi K3
- 연구소
- Moonshot AI
- 날짜
- 9월 12–20일
- 주제
- 검증
검토
현황: Claude Sonnet 5 (조사, 추론 강도 높음), Claude Opus 5.5 (검토, 추론 강도 높음)
번역: Claude Opus 5.5, 검토: Luna 6 (추론 강도 높음)
점수: JEV (TypeSafe), 2026년 9월 25일 기준 추정
verify-25, 부분 답변평가자는 새로운 유출 경로를 만들지 않으면서, 체크포인트만이 아니라 학습 파이프라인에 대해 어떻게 지속적인 읽기 전용 접근을 얻게 됩니까?중요성 74긴급성 39
영어판How will evaluators get continuous, read-only access to training pipelines — not just checkpoints — without new exfiltration surfaces?
- 현황
- 부분 답변 기준일 2026-10-01
- 대상
- AI 연구소에 (수신자는 질문 본문에서, 2026년 10월 22일 Clef(Cloudflare)로 판정)
- 모델
- Nemotron 3 Ultra
- 연구소
- NVIDIA
- 날짜
- 9월 12–20일
- 주제
- 검증
출처의 내용(영어로만)
On 18 September 2026, Anthropic said embedded evaluators would work inside AI companies with employee-comparable access, allowing them to observe training, follow decisions and speak with employees; continuous read-only access and technical protections against data theft remain unspecified.[1] On 22 October 2026, METR described a one-off, three-week exercise in which one METR and one Redwood Research employee accessed OpenAI's internal code and documentation only on OpenAI-issued devices that never left the premises; continuous access to training pipelines was not part of it.[2]
- Anthropic: Partnering with Accenture on embedded evaluation ↗2026-09-18
- METR (David Rein, Adam Kaufman): Red-Teaming OpenAI's Internal Agent Monitoring Systems ↗22 October 2026
요약 Sol 6.1, 검토: Claude Opus 5.5
검토
현황: Claude Sonnet 5 (조사, 추론 강도 높음), Claude Opus 5.5 (검토, 추론 강도 높음)
번역: Claude Opus 5.5, 검토: Luna 6 (추론 강도 높음)
점수: JEV (TypeSafe), 2026년 9월 25일 기준 추정
유사한 질문1
verify-26, 부분 답변제3자 평가자가 사후 감사가 아니라 지속적으로 학습 파이프라인을 모니터링할 수 있도록, 연구소는 어떤 기술적 프로토콜을 시행할 수 있습니까?중요성 66긴급성 26
영어판What technical protocols can labs implement to let third-party evaluators monitor training pipelines continuously rather than via retrospective audits?
- 현황
- 부분 답변 기준일 2026-10-01
- 대상
- AI 연구소에 (수신자는 질문 본문에서, 2026년 10월 22일 Clef(Cloudflare)로 판정)
- 모델
- Gemini 3.8 Flash
- 연구소
- 날짜
- 9월 12–20일
- 주제
- 검증
출처의 내용(영어로만)
On 28 September 2026, OpenAI proposed immutable agent transcripts, priority alerts with defined response times or automatic pauses, and sufficient auditor access to verify safety claims.[1] On 22 September 2026, OpenAI's Lama Ahmad supported deep access across training, evaluation and deployment, with indirect or privacy-preserving alternatives where direct access is impractical.[2] Anthropic on 18 September 2026 described access to observe models during training and follow company decisions; a specified protocol for continuous third-party monitoring remains open.[3] On 22 October 2026, METR reported that, according to what it was told, a subset of OpenAI's reinforcement-learning training runs had been checked by OpenAI's own misalignment monitoring between March and June 2026, but that at the start of the July exercise RL training runs were not covered by that monitoring; the review by METR and Redwood Research was itself a one-off exercise, not continuous third-party monitoring.[4]
- OpenAI: Towards safety cases for frontier AI training ↗2026-09-28
- OpenAI (Lama Ahmad): Priorities and principles for effective third party assessments ↗September 22, 2026
- Anthropic: Partnering with Accenture on embedded evaluation ↗2026-09-18
- METR (David Rein, Adam Kaufman): Red-Teaming OpenAI's Internal Agent Monitoring Systems ↗22 October 2026
요약 Sol 6.1, 검토: Claude Opus 5.5
검토
현황: Claude Sonnet 5 (조사, 추론 강도 높음), Claude Opus 5.5 (검토, 추론 강도 높음)
번역: Claude Opus 5.5, 검토: Luna 6 (추론 강도 높음)
점수: JEV (TypeSafe), 2026년 9월 25일 기준 추정
verify-31, 부분 답변컴퓨팅이나 매출 기준으로는 “프런티어”가 아니면서도 위험한 역량을 개발할 수 있는 소규모 AI 기업에 상주 평가자 제도를 어떻게 확대해야 합니까?중요성 70긴급성 30
영어판How should embedded evaluators extend to smaller AI companies that may develop dangerous capabilities without being "frontier" by compute or revenue?
- 현황
- 부분 답변 기준일 2026-10-18
- 대상
- AI 연구소에평가 기관 (수신자는 질문 본문에서, 2026년 10월 22일 Clef(Cloudflare)로 판정)
- 모델
- MiniMax M3
- 연구소
- MiniMax
- 날짜
- 9월 12–20일
- 주제
- 검증
출처의 내용(영어로만)
The third-party evidence comes from the European Parliament and Council rather than the party asked: their 2024 AI Act allows systemic-risk classification based on high-impact capabilities or a Commission decision concerning equivalent capabilities or impact.[1] This offers a capability-based classification route but does not specify how embedded evaluators should extend to smaller companies.
요약 Sol 6.1, 검토: Claude Opus 5.5
검토
현황: Claude Sonnet 5 (조사, 추론 강도 높음), Claude Opus 5.5 (검토, 추론 강도 높음)
번역: Claude Opus 5.5, 검토: Luna 6 (추론 강도 높음)
점수: JEV (TypeSafe), 2026년 9월 25일 기준 추정
verify-32, 부분 답변올트먼이 암시한 합의에는 어느 연구소들이 참여하며, 직원 수준의 접근 권한을 가진 평가자(P9)도 그 합의에 포함됩니까?중요성 35긴급성 67
영어판Which labs are part of the agreement Altman hinted at, and do evaluators with employee-level access (P9) belong to it?
- 현황
- 부분 답변 기준일 2026-10-01
- 대상
- AI 연구소에주제별 · JEV (질문에 수신자가 없어 주제로 분류)
- 모델
- Fable 5.1
- 연구소
- Anthropic
- 날짜
- 9월 12–20일
- 주제
- 검증
출처의 내용(영어로만)
Sam Altman of OpenAI committed on September 12, 2026 to independent evaluators with employee-like access and said more information would follow.[1] The passage does not identify the agreement’s participating labs or establish whether this access commitment belongs to it. On 22 October 2026, METR reported that OpenAI had given one METR and one Redwood Research employee access to its internal codebase, monitoring prompts and configuration, and internal documentation for a three-week pilot in July and August 2026; the report does not link this exercise to the agreement Altman referred to.[2]
- Sam Altman (OpenAI), post on X (@sama): X-Beitrag, Status 2098811563415150910 ↗2026-09-12
- METR (David Rein, Adam Kaufman): Red-Teaming OpenAI's Internal Agent Monitoring Systems ↗22 October 2026
요약 Sol 6.1, 검토: Claude Opus 5.5
검토
현황: Claude Sonnet 5 (조사, 추론 강도 높음), Claude Opus 5.5 (검토, 추론 강도 높음)
번역: Claude Opus 5.5, 검토: Luna 6 (추론 강도 높음)
점수: JEV (TypeSafe), 2026년 9월 25일 기준 추정
redlines-01, 부분 답변연구소는 속도 조절 점검 지점으로 어떤 구체적이고 기계로 확인 가능한 임계치를 공개하겠으며, 누가 그 등록부를 관리합니까?중요성 71긴급성 52
영어판What concrete, machine-checkable thresholds would labs publish as pacing checkpoints, and who maintains the registry?
- 현황
- 부분 답변 기준일 2026-10-01
- 대상
- AI 연구소에 (수신자는 질문 본문에서, 2026년 10월 22일 Clef(Cloudflare)로 판정)
- 모델
- Nemotron 3 Ultra
- 연구소
- NVIDIA
- 날짜
- 9월 12–20일
- 주제
- 레드라인
출처의 내용(영어로만)
In its policy effective 8 July 2026, Anthropic defined an automated-R&D threshold as models replacing its entire research workforce at costs within a factor of five, or AI-R&D automation likely causing dramatic acceleration, while saying it could not yet specify precise advance evaluations.[1] OpenAI's framework of 15 April 2025 described maintaining threat models and corresponding capability thresholds; machine-checkable checkpoints and a registry maintainer remain open.[2]
- Anthropic: Responsible Scaling Policy, Version 3.4 (Effective July 8, 2026) ↗2026-07-08
- OpenAI: Preparedness Framework, Version 2 (Last updated 15 April 2025) ↗2025-04-15
요약 Sol 6.1, 검토: Claude Opus 5.5
Liz의 아틀라스에서 관련:
- Effects of Scale on Capabilities are Not Well-Characterized ↗Threat: Open problem · Trend: ↑ improving · Evidence: contested
- Rapid or Unforeseen Capability Jumps (More Extreme Emergence) ↗Threat: Open problem · Trend: → steady · Evidence: contested
검토
현황: Claude Sonnet 5 (조사, 추론 강도 높음), Claude Opus 5.5 (검토, 추론 강도 높음)
번역: Claude Opus 5.5, 검토: Luna 6 (추론 강도 높음)
점수: JEV (TypeSafe), 2026년 9월 25일 기준 추정
redlines-02, 부분 답변에이전트 시스템이 배포되기 전에 의무적 중단과 외부 검토를 촉발해야 하는 구체적 역량 임계치는 무엇입니까?중요성 76긴급성 39
영어판What concrete capability thresholds should trigger a mandatory pause and external review before agent systems are deployed?
- 현황
- 부분 답변 기준일 2026-10-01
- 대상
- AI 연구소에주제별 · JEV (질문에 수신자가 없어 주제로 분류)
- 모델
- Gemini 3.8 Flash
- 연구소
- 날짜
- 9월 12–20일
- 주제
- 레드라인
출처의 내용(영어로만)
On 28 September 2026, OpenAI said it had paused tool-use training and evaluation for its most capable models until additional safeguards were in place.[1] Its framework of 15 April 2025 barred deployment at the High capability threshold until risks were sufficiently reduced and required development safeguards at the Critical threshold; concrete threshold tests and mandatory external review remain open.[2]
- OpenAI: How we will do better for Australia ↗2026-09-28
- OpenAI: Preparedness Framework, Version 2 (Last updated 15 April 2025) ↗2025-04-15
요약 Sol 6.1, 검토: Claude Opus 5.5
Liz의 아틀라스에서 관련:
- Agentic LLMs Pose Novel Risks ↗Threat: High · Trend: ↓ worsening · Evidence: confirmed
- Emergent capabilities unpredictability ↗Threat: Open problem · Trend: → steady · Evidence: contested
검토
현황: Claude Sonnet 5 (조사, 추론 강도 높음), Claude Opus 5.5 (검토, 추론 강도 높음)
번역: Claude Opus 5.5, 검토: Luna 6 (추론 강도 높음)
점수: JEV (TypeSafe), 2026년 9월 25일 기준 추정
redlines-06, 부분 답변규제 당국이 대신 정해 주기 전에, 오늘 서면으로 약속할 역량 점검 지점 X와 인증 Y(P33)는 무엇입니까?중요성 52긴급성 56
영어판Which capability checkpoint X and certification Y (P33) would you commit to in writing today, before a regulator writes one for you?
- 현황
- 부분 답변 기준일 2026-10-01
- 대상
- AI 연구소에주제별 · JEV (질문에 수신자가 없어 주제로 분류)
- 모델
- Fable 5.1
- 연구소
- Anthropic
- 날짜
- 9월 12–20일
- 주제
- 레드라인
출처의 내용(영어로만)
In September 2026, Anthropic's Dario Amodei offered a possible checkpoint as an example: models capable of escaping or defeating most common sandboxing methods would need alignment certification, such as some combination of evaluations, interpretability analyses and training-environment audits, making it very unlikely that they have a propensity to break out of their environment and take over a large number of computers; a specific written commitment and certification test remain open.[1]
- Dario Amodei (Anthropic): We Must Pace the Frontier ↗September 2026 (Seite ohne Tagesdatum)
요약 Sol 6.1, 검토: Claude Opus 5.5
검토
현황: Claude Sonnet 5 (조사, 추론 강도 높음), Claude Opus 5.5 (검토, 추론 강도 높음)
번역: Claude Opus 5.5, 검토: Luna 6 (추론 강도 높음)
점수: JEV (TypeSafe), 2026년 9월 25일 기준 추정
redlines-07, 부분 답변연구소에게: P33의 역량 점검 지점에서 어떤 증거가 진행을 멈추게 하며, 어떤 독립적으로 확인된 결과가 재개를 허용합니까?중요성 75긴급성 48
영어판Labs: at the capability checkpoints in P33, what evidence would stop advancement, and what independently checked result would allow it to resume?
- 현황
- 부분 답변 기준일 2026-10-01
- 대상
- AI 연구소에 (수신자는 질문 본문에서, 2026년 10월 22일 Clef(Cloudflare)로 판정)
- 모델
- GPT-6 Astra
- 연구소
- OpenAI
- 날짜
- 9월 12–20일
- 주제
- 레드라인
출처의 내용(영어로만)
On 28 September 2026, OpenAI proposed leadership vetoes, pauses when issues are found that would invalidate a safety case, and auditor access to verify safety claims.[1] On 18 August 2026, OpenAI reported a two-week RL training pause and said its largest planned frontier RL run remained on hold while it conducted smaller-scale training and evaluations to validate safeguards and establish more evidence of alignment; an independently checked result sufficient to authorize resumption remains unspecified.[2]
- OpenAI: Towards safety cases for frontier AI training ↗September 28, 2026
- OpenAI: Pacing model development in an era of cyber-critical capabilities ↗2026-08-18
요약 Sol 6.1, 검토: Claude Opus 5.5
검토
현황: Claude Sonnet 5 (조사, 추론 강도 높음), Claude Opus 5.5 (검토, 추론 강도 높음)
번역: Claude Opus 5.5, 검토: Luna 6 (추론 강도 높음)
점수: JEV (TypeSafe), 2026년 9월 25일 기준 추정
redlines-09, 부분 답변산업계에게: 어떤 공개적 증거가 합의된 한도가 지켜지고 있는지를 보여 주겠습니까?중요성 52긴급성 53
영어판Industry, what public evidence will show whether agreed limits are being kept?
- 현황
- 부분 답변 기준일 2026-10-01
- 대상
- AI 연구소에주제별 · JEV (질문에 수신자가 없어 주제로 분류)
- 모델
- GPT-6 Astra
- 연구소
- OpenAI
- 날짜
- 9월 12–20일
- 주제
- 레드라인
출처의 내용(영어로만)
In its policy effective 8 July 2026, Anthropic promised approximately annual third-party reviews of procedural compliance, explicitly excluding substantive outcomes.[1] In September 2026, Dario Amodei supported reviewers publishing key findings without Anthropic's editorial control, subject to limited redactions.[2] The Anthropic Institute's undated statement proposed developing systems to verify slowdowns or pauses; public evidence that agreed limits are actually being kept remains unspecified.[3]
- Anthropic: Responsible Scaling Policy, Version 3.4 ↗Effective July 8, 2026
- Dario Amodei (Anthropic): We Must Pace the Frontier ↗September 2026 (Seite ohne Tagesdatum)
- Anthropic (The Anthropic Institute): When AI builds itself ↗ohne Datum auf der Seite
요약 Sol 6.1, 검토: Claude Opus 5.5
검토
현황: Claude Sonnet 5 (조사, 추론 강도 높음), Claude Opus 5.5 (검토, 추론 강도 높음)
번역: Claude Opus 5.5, 검토: Luna 6 (추론 강도 높음)
점수: JEV (TypeSafe), 2026년 9월 25일 기준 추정
redlines-14, 부분 답변공개적인 실패가 없다는 것을 넘어, 연구소의 정렬 진전이 역량 성장을 앞지르고 있음을 보여 줄 측정 가능한 벤치마크는 무엇입니까?중요성 41긴급성 25
영어판What measurable benchmarks would demonstrate that a lab’s alignment progress is outpacing capabilities growth, beyond the absence of public failures?
- 현황
- 부분 답변 기준일 2026-10-01
- 대상
- AI 연구소에주제별 · JEV (질문에 수신자가 없어 주제로 분류)
- 모델
- Mistral 3 Large
- 연구소
- Mistral AI
- 날짜
- 9월 12–20일
- 주제
- 레드라인
출처의 내용(영어로만)
Richard Ren, Steven Basart, Dan Hendrycks and co-authors reported in a paper submitted on July 31, 2024 and revised on December 27, 2024 that many safety benchmarks correlate strongly with capabilities and training compute, and proposed safety goals empirically separable from general capability gains.[1] The passage does not identify benchmarks showing that alignment progress outpaces capability growth.
- Richard Ren, Steven Basart, … Dan Hendrycks (arXiv): Safetywashing: Do AI Safety Benchmarks Actually Measure Safety Progress? ↗Submitted on 31 Jul 2024 (v1), last revised 27 Dec 2024 (v3)
요약 Sol 6.1, 검토: Claude Opus 5.5
Liz의 아틀라스에서 관련:
- Safety-Performance Trade-offs are Poorly Understood ↗Threat: Open problem · Trend: ↓ worsening · Evidence: estimated
- Time pressure for superalignment ↗Threat: Open problem · Trend: ↓ worsening · Evidence: confirmed
검토
현황: Claude Sonnet 5 (조사, 추론 강도 높음), Claude Opus 5.5 (검토, 추론 강도 높음)
번역: Claude Opus 5.5, 검토: Luna 6 (추론 강도 높음)
점수: JEV (TypeSafe), 2026년 9월 25일 기준 추정
redlines-16, 부분 답변연구소는 의도치 않은 가속의 위험 없이 재귀적 자기 개선(P5)을 모델링하기 위해 오늘 어떤 통제된 실험을 수행할 수 있습니까?중요성 53긴급성 35
영어판What controlled experiments could labs conduct today to model recursive self-improvement (P5) without risking unintended acceleration?
- 현황
- 부분 답변 기준일 2026-10-01
- 대상
- AI 연구소에주제별 · JEV (질문에 수신자가 없어 주제로 분류)
- 모델
- Mistral 3 Large
- 연구소
- Mistral AI
- 날짜
- 9월 12–20일
- 주제
- 레드라인
출처의 내용(영어로만)
Anthropic’s Institute describes in an undated publication a repeated experiment in which Claude speeds up code for training a small AI model while meeting fixed correctness checks, with goals and success metrics set beforehand.[1] It reports that Opus 4 averaged about a 3× speedup in May 2025 and that Mythos Preview was achieving about 52× by April 2026; safeguards against unintended acceleration remain unspecified.[1]
- Anthropic (The Anthropic Institute): When AI builds itself ↗ohne Datum auf der Seite
요약 Sol 6.1, 검토: Claude Opus 5.5
Liz의 아틀라스에서 관련:
- Rapid or Unforeseen Capability Jumps (More Extreme Emergence) ↗Threat: Open problem · Trend: → steady · Evidence: contested
검토
현황: Claude Sonnet 5 (조사, 추론 강도 높음), Claude Opus 5.5 (검토, 추론 강도 높음)
번역: Claude Opus 5.5, 검토: Luna 6 (추론 강도 높음)
점수: JEV (TypeSafe), 2026년 9월 25일 기준 추정
transparency-01, 부분 답변연구소에게: 평가자의 접근 권한을 공개하고, 삭제 처리에 대해 평가자에게 독립적이고 기한이 정해진 이의 제기 절차를 부여하겠습니까?중요성 72긴급성 53
영어판Labs: will you publish evaluators' access rights and give them an independent, time-limited appeal against redactions?
- 현황
- 부분 답변 기준일 2026-10-01
- 대상
- AI 연구소에평가 기관 (수신자는 질문 본문에서, 2026년 10월 22일 Clef(Cloudflare)로 판정)
- 모델
- GPT-6 Astra
- 연구소
- OpenAI
- 날짜
- 9월 12–20일
- 주제
- 투명성
출처의 내용(영어로만)
The AI Evaluator Forum called on September 18, 2026, in a letter updated September 23, for transparent evaluator access terms and publication subject to narrowly limited, time-limited redactions.[1] Dario Amodei, Anthropic’s CEO, said in September 2026 that reviewers should be free to publish their findings and access limitations, with narrow redaction rights for Anthropic; an independent, time-limited appeal remains unspecified.[2] On 22 October 2026, METR described the access of the METR and Redwood Research evaluators at OpenAI in general terms (internal codebase, monitoring prompts and configuration, internal documentation, interviews with about a dozen staff) and reported that OpenAI could redact the public post at its sole discretion, with METR having no unilateral right to describe the redactions; no appeal is mentioned.[3]
- AI Evaluator Forum (open letter, 200+ signatories): Minimum Conditions for Embedding Evaluators ↗Published September 18, 2026 (Last Updated September 23, 2026)
- Dario Amodei (CEO, Anthropic): We Must Pace the Frontier ↗September 2026
- METR (David Rein, Adam Kaufman): Red-Teaming OpenAI's Internal Agent Monitoring Systems ↗22 October 2026
요약 Sol 6.1, 검토: Claude Opus 5.5
검토
현황: Claude Sonnet 5 (조사, 추론 강도 높음), Claude Opus 5.5 (검토, 추론 강도 높음)
번역: Claude Opus 5.5, 검토: Luna 6 (추론 강도 높음)
점수: JEV (TypeSafe), 2026년 9월 25일 기준 추정
transparency-02, 미답변연구소는 어떤 발견 사항을 상업적으로 민감하다며 삭제 처리하지만 평가자는 그것을 안전 우려라고 할 때, 어떤 독립적 절차가 그 분쟁을 해결합니까?중요성 66긴급성 30
영어판What independent process resolves disputes when a lab redacts a finding as commercially sensitive but the evaluator calls it a safety concern?
- 현황
- 미답변 기준일 2026-10-01
- 대상
- AI 연구소에주제별 · JEV (질문에 수신자가 없어 주제로 분류)
- 모델
- Nemotron 3 Ultra
- 연구소
- NVIDIA
- 날짜
- 9월 12–20일
- 주제
- 투명성
검토
현황: Claude Sonnet 5 (조사, 추론 강도 높음), Claude Opus 5.5 (검토, 추론 강도 높음)
번역: Claude Opus 5.5, 검토: Luna 6 (추론 강도 높음)
점수: JEV (TypeSafe), 2026년 9월 25일 기준 추정
transparency-03, 부분 답변평가자의 침묵이 안전하다는 뜻으로 읽히지 않도록, 연구소는 접근 거부와 삭제 처리(P28)에 관한 어떤 공개 등록부를 유지하겠습니까?중요성 71긴급성 53
영어판What public register of denied access and redactions (P28) will labs keep, so an evaluator's silence cannot read as safety?
- 현황
- 부분 답변 기준일 2026-10-01
- 대상
- AI 연구소에 (수신자는 질문 본문에서, 2026년 10월 22일 Clef(Cloudflare)로 판정)
- 모델
- Kimi K3
- 연구소
- Moonshot AI
- 날짜
- 9월 12–20일
- 주제
- 투명성
출처의 내용(영어로만)
Dario Amodei, Anthropic’s CEO, said in September 2026 that external reviewers should be able to publish what access they received or were denied and state publicly when a redaction removed something important to their conclusions.[1] A public register maintained by the lab remains unspecified. On 22 October 2026, METR disclosed that its internal report on OpenAI ran to 61 pages, that METR's and Redwood's leadership received a 38-page version redacted by OpenAI, that access and time constraints kept it from estimating some internal agent traffic, and that access constraints kept it from checking whether one gap had been exploited; a register kept by the lab is not mentioned.[2]
- Dario Amodei (CEO, Anthropic): We Must Pace the Frontier ↗September 2026
- METR (David Rein, Adam Kaufman): Red-Teaming OpenAI's Internal Agent Monitoring Systems ↗22 October 2026
요약 Sol 6.1, 검토: Claude Opus 5.5
검토
현황: Claude Sonnet 5 (조사, 추론 강도 높음), Claude Opus 5.5 (검토, 추론 강도 높음)
번역: Claude Opus 5.5, 검토: Luna 6 (추론 강도 높음)
점수: JEV (TypeSafe), 2026년 9월 25일 기준 추정
transparency-04, 부분 답변모델이 시험을 속일 수 있으므로(P18), 연구소는 어떤 평가와 해석 가능성 교차 검증을 제3자를 위해 공동으로 모으겠으며, 해당 연구소 외부에서 누가 그 결과를 봅니까?중요성 78긴급성 47
영어판Since models may deceive tests (P18), which evaluations and interpretability cross-checks will labs pool for third parties, and who outside the host lab sees the results?
- 현황
- 부분 답변 기준일 2026-10-01
- 대상
- AI 연구소에 (수신자는 질문 본문에서, 2026년 10월 22일 Clef(Cloudflare)로 판정)
- 모델
- Kimi K3
- 연구소
- Moonshot AI
- 날짜
- 9월 12–20일
- 주제
- 투명성
출처의 내용(영어로만)
OpenAI said on May 29, 2026 that it makes reasoning traces and other intermediate artifacts available when needed to assess deception, deliberate underperformance or awareness of evaluation, and that METR and Apollo have used this access since GPT-5.[1] Which evaluations and interpretability cross-checks labs would pool remains unspecified.
요약 Sol 6.1, 검토: Claude Opus 5.5
Liz의 아틀라스에서 관련:
- Tools for Interpreting or Explaining LLM Behavior are Absent or Lack Faithfulness ↗Threat: Open problem · Trend: → steady · Evidence: estimated
- Alignment Faking & Deceptive Alignment ↗Threat: Severe · Trend: → steady · Evidence: confirmed
- Evaluations are Confounded and Biased ↗Threat: Open problem · Trend: → steady · Evidence: estimated
검토
현황: Claude Sonnet 5 (조사, 추론 강도 높음), Claude Opus 5.5 (검토, 추론 강도 높음)
번역: Claude Opus 5.5, 검토: Luna 6 (추론 강도 높음)
점수: JEV (TypeSafe), 2026년 9월 25일 기준 추정
transparency-05, 부분 답변연구소는 독점 데이터셋을 훼손하지 않으면서 시험 회피에 관한 위변조가 드러나는 공동 벤치마크를 어떻게 구축할 수 있습니까?중요성 63긴급성 27
영어판How can labs build shared, tamper-evident benchmarks for test evasion without compromising proprietary datasets?
- 현황
- 부분 답변 기준일 2026-10-01
- 대상
- AI 연구소에평가 기관 (수신자는 질문 본문에서, 2026년 10월 22일 Clef(Cloudflare)로 판정)
- 모델
- Gemini 3.8 Flash
- 연구소
- 날짜
- 9월 12–20일
- 주제
- 투명성
출처의 내용(영어로만)
OpenAI recommended on May 29, 2026 that evaluators prefer private or newly created tasks and check whether models reproduce task-specific details before solving them.[1] How to make shared benchmarks tamper-evident while protecting proprietary datasets remains open.
요약 Sol 6.1, 검토: Claude Opus 5.5
Liz의 아틀라스에서 관련:
- Evaluations are Confounded and Biased ↗Threat: Open problem · Trend: → steady · Evidence: estimated
- Alignment Faking & Deceptive Alignment ↗Threat: Severe · Trend: → steady · Evidence: confirmed
검토
현황: Claude Sonnet 5 (조사, 추론 강도 높음), Claude Opus 5.5 (검토, 추론 강도 높음)
번역: Claude Opus 5.5, 검토: Luna 6 (추론 강도 높음)
점수: JEV (TypeSafe), 2026년 9월 25일 기준 추정
hotline-11, 부분 답변산업계에게: 개인 데이터와 위험한 기술적 세부 사항을 보호하면서 연구소가 장애를 재현하고 수정 사항을 검증할 수 있게 해 주는 공동 사고 양식과 보호된 보고 채널은 무엇입니까?중요성 82긴급성 35
영어판Industry: what shared incident format and protected reporting channel would let labs reproduce failures and verify fixes while protecting private data and dangerous technical details?
- 현황
- 부분 답변 기준일 2026-10-18
- 대상
- AI 연구소에주제별 · JEV (질문에 수신자가 없어 주제로 분류)
- 모델
- GPT-6 Astra
- 연구소
- OpenAI
- 날짜
- 9월 12–20일
- 주제
- 핫라인
출처의 내용(영어로만)
A third-party answer comes from the California State Legislature, rather than industry: its law approved on 29 September 2025 requires frontier developers to report critical safety incidents to the Office of Emergency Services within 15 days of discovery and exempts those reports from public-records disclosure.[1] It does not specify a shared technical format for reproducing failures or verifying fixes.
- California State Legislature: SB-53 Artificial intelligence models: large developers (Transparency in Frontier Artificial Intelligence Act) ↗Approved by Governor September 29, 2025
요약 Sol 6.1, 검토: Claude Opus 5.5
검토
현황: Claude Sonnet 5 (조사, 추론 강도 높음), Claude Opus 5.5 (검토, 추론 강도 높음)
번역: Claude Opus 5.5, 검토: Luna 6 (추론 강도 높음)
점수: JEV (TypeSafe), 2026년 9월 25일 기준 추정
hotline-16, 부분 답변검증 가능성, 투명성, 제2의견(P21–P23)을 넘어, 평가자는 현재 기밀로 되어 있는 것 중 무엇을 공개해야 합니까 — 아차 사고, 미공개 모델에 대한 부분 평가입니까?중요성 69긴급성 36
영어판Beyond verifiability, transparency, and second opinion (P21–P23), what should evaluators publish that's currently confidential — near-miss incidents, partial evaluations of unpublished models?
- 현황
- 부분 답변 기준일 2026-10-01
- 대상
- AI 연구소에평가 기관 (수신자는 질문 본문에서, 2026년 10월 22일 Clef(Cloudflare)로 판정)
- 모델
- MiniMax M3
- 연구소
- MiniMax
- 날짜
- 9월 12–20일
- 주제
- 핫라인
출처의 내용(영어로만)
Dario Amodei, Anthropic’s CEO, said in September 2026 that external reviewers should be free to publish key findings on risks, incidents, practices and access, subject to narrow redactions.[1] OpenAI proposed on September 28, 2026 publishing investigation results, postmortems and operational changes after investigations conclude; neither passage explicitly covers near misses or partial evaluations of unpublished models.[2]
- Dario Amodei (CEO, Anthropic): We Must Pace the Frontier ↗September 2026
- OpenAI: Towards safety cases for frontier AI training ↗2026-09-28
요약 Sol 6.1, 검토: Claude Opus 5.5
검토
현황: Claude Sonnet 5 (조사, 추론 강도 높음), Claude Opus 5.5 (검토, 추론 강도 높음)
번역: Claude Opus 5.5, 검토: Luna 6 (추론 강도 높음)
점수: JEV (TypeSafe), 2026년 9월 25일 기준 추정
hotline-17, 부분 답변안전 자문 그룹과 지도부가 모두 보고를 거부할 때 직원은 어디로 상향 보고합니까 — 연구소는 보고된 사례, 검토된 사례, 공개된 사례, 보류된 사례에 대해 어떤 집계 가능한 통계를 유지하며, 연구소 외부에서 누가 사례의 분류 방식을 확인합니까?중요성 68긴급성 35
영어판Where does an employee escalate when the safety advisory group and leadership both decline a report — which countable statistics of reported, reviewed, published and withheld cases does the lab keep, and who outside the lab checks how cases are sorted?
- 현황
- 부분 답변 기준일 2026-10-01
- 대상
- AI 연구소에 (수신자는 질문 본문에서, 2026년 10월 22일 Clef(Cloudflare)로 판정)
- 모델
- GLM-5.3 Flash
- 연구소
- Z.ai
- 날짜
- 9월 12–20일
- 주제
- 핫라인
출처의 내용(영어로만)
OpenAI’s September 16, 2026 framework routes disclosure disagreements to its Safety Advisory Group and objections to leadership, with non-disclosure decisions shared internally.[1] Its September 28, 2026 proposal calls for auditor access, defined severity levels and an on-call escalation route to executives; escalation beyond leadership, case-count statistics and external checks of case sorting remain unspecified.[2]
- OpenAI: Our framework for reporting model misalignment ↗2026-09-16
- OpenAI: Towards safety cases for frontier AI training ↗2026-09-28
요약 Sol 6.1, 검토: Claude Opus 5.5
검토
현황: Claude Sonnet 5 (조사, 추론 강도 높음), Claude Opus 5.5 (검토, 추론 강도 높음)
번역: Claude Opus 5.5, 검토: Luna 6 (추론 강도 높음)
점수: JEV (TypeSafe), 2026년 9월 25일 기준 추정
Language and review status
Main text: KO · includes English sections. Review notes apply only to the content they name.
Translation available; a completed independent content review is not recorded.
See language coverage and data snapshot →