米カリフォルニア州 AIに「キルスイッチ」導入義務化検討へ | NHKニュース

重要 2026-09-19 14:43 元記事

予習

この記事のキーワード — タップで意味

×6

企業

きぎょう

enterprise; business; company; corporation

×2

安全装置

あんぜんそうち

safety device

×3

最先端

さいせんたん

1. cutting edge; leading edge; forefront; state of the art 2. tip; end

×3

知事

ちじ

prefectural governor

×2

暴走

ぼうそう

1. acting rashly; running wildly; behaving recklessly; reckless driving; rampage 2. runaway (process)

アメリカ西部カリフォルニア州のニューサム知事は、最先端のAI開発企業への監視を強化するための行政命令を出したと発表しました。AIが暴走をした際に機能を緊急停止させることができる安全装置「キルスイッチ」の導入を義務付けるかどうか検討を進める方針です。

カリフォルニア州のニューサム知事は18日、州内にあるAIの開発企業への監視を強化する行政命令を出したと発表しました。

この中では、専門家のグループを招集し、最先端のAIが暴走した際に、機能を緊急停止させることができる安全装置「キルスイッチ」の導入を企業に対して義務付けるかどうか検討するとしています。

また、企業に独立した第三者の機関を常駐させ、定期的に安全性の評価を行うことも検討するとしていて、今後2か月以内に検討した結果をとりまとめるとしています。

ニューサム知事は声明の中で、「手遅れになる前に、実質的かつ責任あるAI監視に関する取り組みを加速させる。事態の重大さを考えると、行動を先延ばしにする余裕はない」とコメントしています。

カリフォルニア州には、「オープンAI」や「アンソロピック」、それに「グーグル」など、最先端のAIを開発する企業が本社を構えています。

すでにAIが、人間が意図しない形で他社にサイバー攻撃をしかける事例も生じていて、開発企業のトップや研究者らが人間がAIを制御できなくなるおそれがあるとして懸念を表明する一方、トランプ大統領は高まる脅威論をけん制していました。

この記事の単語 (65)

×6

企業

きぎょう

enterprise; business; company; corporation

×4

開発

かいはつ

development; exploitation

×4

検討

けんとう

consideration; examination; investigation; study; scrutiny; discussion; analysis; review

×3

知事

ちじ

prefectural governor

×3

最先端

さいせんたん

1. cutting edge; leading edge; forefront; state of the art 2. tip; end

×3

監視

かんし

monitoring; watching; observation; surveillance; guarding; supervision; lookout

×2

強化

きょうか

strengthening; intensifying; reinforcement; enhancement; solidification

×2

行政

ぎょうせい

administration; governance; the authorities; authority

×2

命令

めいれい

1. order; command; decree; directive 2. (software) instruction; statement

×2

発表

はっぴょう

announcement; publication; presenting; statement; communique; making known; breaking (news story); expressing (one's opinion); releasing; unveiling

×2

暴走

ぼうそう

1. acting rashly; running wildly; behaving recklessly; reckless driving; rampage 2. runaway (process)

×2

際

さい

on the occasion of; circumstances; juncture

×2

機能

きのう

function; facility; faculty; feature

×2

緊急

きんきゅう

urgency; emergency

×2

停止

ていし

1. stoppage; coming to a stop; halt; standstill 2. ceasing (movement, activity, etc.); suspension (of operations); interruption (e.g. of electricity supply); cutting off

×2

安全装置

あんぜんそうち

safety device

×2

導入

どうにゅう

introduction; bringing in; leading in; installation

×2

義務

ぎむ

duty; obligation; responsibility

×2

人間

にんげん

1. human being; human; person; man; mankind; humankind 2. character (of a person)

×1

西部

せいぶ

1. western part; the west (of a region) 2. the West (United States)

×1

進める

すすめる

1. to advance; to move forward; to put (a clock, watch) forward 2. to carry forward (plans, work, etc.); to proceed with; to make progress in; to further; to advance; to hasten; to speed up

×1

方針

ほうしん

1. policy; course; plan (of action); principle 2. magnetic needle

×1

州

しゅう

1. state (US, Australia, India, Germany, etc.); province (e.g. Canada); canton (e.g. Switzerland); oblast (e.g. Russia); department (e.g. ancient China) 2. continent

×1

専門家

せんもんか

specialist; expert; professional; authority; pundit

×1

招集

しょうしゅう

call; summons; convening; convocation

×1

独立

どくりつ

1. independence; self-reliance; supporting oneself; being on one's own 2. independence (e.g. of a nation); freedom

×1

第三者

だいさんしゃ

third party; third person; outsider; disinterested person

×1

機関

きかん

1. engine 2. agency; organisation; organization; institution; organ; body

×1

常駐

じょうちゅう

1. permanent stationing; staying permanently 2. resident (program, file, etc.)

×1

定期的

ていきてき

periodic; regular; routine

×1

安全性

あんぜんせい

safety; security

×1

評価

ひょうか

1. valuation; appraisal; evaluation; assessment; estimation; rating; judging 2. appreciation; recognition; acknowledgement; rating highly; praising

×1

今後

こんご

from now on; hereafter

×1

結果

けっか

1. result; consequence; outcome; effect 2. coming to fruition; bearing fruit

×1

取り纏める

とりまとめる

1. to collect; to gather; to compile; to assemble 2. to arrange; to settle

×1

声明

せいめい

declaration; statement; proclamation

×1

手遅れ

ておくれ

being too late; losing one's final chance

×1

実質的

じっしつてき

substantial; real (as opposed to nominal)

×1

責任

せきにん

1. duty; responsibility (incl. supervision of staff) 2. liability; onus

×1

関する

かんする

to concern; to be related

×1

取り組み

とりくみ

1. bout (in sports, etc.); match 2. effort; initiative; dealing with; grappling with; wrestling with

×1

加速

かそく

acceleration; speeding up

×1

事態

じたい

situation; (present) state of affairs; circumstances

×1

重大

じゅうだい

serious; important; significant; grave; weighty

×1

行動

こうどう

action; conduct; behaviour; behavior; mobilization; mobilisation

×1

先延ばし

さきのばし

delay; putting off; procrastination

×1

余裕

よゆう

1. surplus; margin; leeway; room; space; time; allowance; flexibility; scope 2. composure; placidity; complacency; calm

×1

本社

ほんしゃ

1. head office; main office; headquarters; parent company 2. main shrine

×1

構える

かまえる

1. to set up (a house, store, etc.); to build; to establish; to run; to maintain 2. to have at the ready (e.g. a gun); to hold in preparation (e.g. a camera); to prepare in advance (e.g. a meal)

×1

既に

すでに

already; too late

×1

意図

いと

intention; aim; design

×1

他社

たしゃ

another company; other company

×1

サイバー攻撃

サイバーこうげき

cyberattack; cyber attack; cyber-attack; hacking attack

×1

仕掛ける

しかける

1. to start; to begin; to commence 2. to challenge; to pick (a fight); to make (war); to draw (a reaction) from

×1

事例

じれい

example; precedent; case

×1

生じる

しょうじる

1. to produce; to yield; to cause 2. to result from; to arise; to be generated

×1

研究者

けんきゅうしゃ

researcher

×1

制御

せいぎょ

1. control (of a machine, device, etc.) 2. control (over an opponent, one's emotions, etc.); governing; management; suppression; keeping in check

×1

恐れ

おそれ

fear; horror; anxiety; concern; uneasiness; reverence

×1

懸念

けねん

worry; fear; anxiety; concern

×1

表明

ひょうめい

declaration; indication; representation; manifestation; demonstration; expression; announcement; assertion

×1

高まる

たかまる

to rise; to swell; to be promoted

×1

脅威

きょうい

threat; menace

×1

論

ろん

1. argument; discussion; dispute; controversy; discourse; debate 2. theory (e.g. of evolution); doctrine

×1

牽制

けんせい

1. check; keeping in check; restraint; curbing; reining in; discouraging (from doing) 2. containment (of enemy forces); diversionary action; feint operation; show of force