Published: 2024-04-23 08:00
SHIFT SECURITY、OWASP Top10 for LLMs に基づいた「生成AI活用システム診断」リリース
株式会社SHIFT SECURITYは4月16日、生成AI固有のセキュリティリスクを可視化する「生成AI活用システム診断」のリリースを発表した。
LLM（大規模言語モデル）による生成AIを活用したシステム開発では、「自然言語（日本語や英語）で生成AIを操作する」「プログラムに比べて完全な制御が困難」「回答が学習データに依存する」といった従来と大きく異なる性質があるため、生成AIを活用したシステム開発に合わせたセキュリティ対策が必要となる。
同サービスでは、国際基準であるOWASP Top10 for LLMsに基づき、生成AIを活用したWebサービスやシステムの脆弱性を診断、従来のWeb脆弱性診断では検出できない生成AI固有の脆弱性を検出し、セキュリティリスクを可視化する。診断後1営業日で詳細な診断レポートと対策案が掲載された報告書を納品する。
| # | 言葉 | 意味 |
|---|---|---|
| 7 | 生成 | せいせい (生成) : creation; generation; formation; derivation |
| 5 | 診断 | しんだん (診断) : diagnosis; medical examination |
| 4 | 活用 | かつよう (活用) : 1. practical use; application 2. conjugation; inflection |
| 3 | 脆弱性 | ぜいじゃくせい (脆弱性) : vulnerability; weakness; fragility |
| 2 | 固有 | こゆう (固有) : characteristic; traditional; peculiar; inherent; native; eigen- |
| 2 | 可視化 | かしか (可視化) : 1. visualization (data, results, etc.); visualisation 2. making something visible (that was previously unseen) |
| 2 | システム開発 | システムかいはつ (システム開発) : system development |
| 2 | 従来 | じゅうらい (従来) : 1. up to now; so far 2. traditional; conventional; usual; existing |
| 2 | 検出 | けんしゅつ (検出) : detection; sense (e.g. sensor) |
| 1 | 株式会社 | かぶしきがいしゃ (株式会社) : stock company; corporation; kabushiki kaisha; KK |
| 1 | 発表 | はっぴょう (発表) : announcement; publication; presenting; statement; communique; making known; breaking (news story); expressing (one's opinion); releasing; unveiling |
| 1 | 大規模 | だいきぼ (大規模) : large-scale |
| 1 | 言語 | げんご (言語) : language |
| 1 | 自然言語 | しぜんげんご (自然言語) : natural language |
| 1 | 日本語 | にほんご (日本語) : Japanese (language) |
| 1 | 操作 | そうさ (操作) : 1. operation; management; handling 2. manipulating (to one's benefit); manipulation; influencing |
| 1 | 比べる | くらべる (比べる) : 1. to compare; to make a comparison 2. to compete; to vie |
| 1 | 完全 | かんぜん (完全) : perfect; complete |
| 1 | 制御 | せいぎょ (制御) : 1. control (of a machine, device, etc.) 2. control (over an opponent, one's emotions, etc.); governing; management; suppression; keeping in check |
| 1 | 困難 | こんなん (困難) : 1. difficulty; hardship; trouble; distress 2. infeasibility; inability (to carry out) |
| 1 | 回答 | かいとう (回答) : reply; answer |
| 1 | 学習 | がくしゅう (学習) : study; learning; tutorial |
| 1 | 依存 | いぞん (依存) : dependence; reliance |
| 1 | いう | ゆう (結う) : 1. to do up (hair); to dress; to arrange 2. to tie; to bind; to fasten; to make (a fence) |
| 1 | 大きく | おおきく (大きく) : in a big way; on a grand scale |
| 1 | 異なる | ことなる (異なる) : to differ; to vary; to disagree |
| 1 | 性質 | せいしつ (性質) : nature; property; disposition |
| 1 | 合わせる | あわせる (合わせる) : 1. to match (rhythm, speed, etc.) 2. to join together; to unite; to combine; to add up |
| 1 | 対策 | たいさく (対策) : measure; step; countermeasure; counterplan; countermove; strategy; preparation (e.g. for a test) |
| 1 | 国際 | こくさい (国際) : 1. international 2. diplomatic intercourse |
| 1 | 基準 | きじゅん (基準) : standard; basis; criterion; norm; reference; datum |
| 1 | 基づく | もとづく (基づく) : to be grounded on; to be based on; to be due to; to originate from |
| 1 | 営業日 | えいぎょうび (営業日) : business day |
| 1 | 詳細 | しょうさい (詳細) : 1. details; particulars; specifics 2. detailed; specific; minute |
| 1 | 掲載 | けいさい (掲載) : publication (e.g. of an article in a newspaper); carrying (e.g. a story); running (e.g. a serial); insertion (e.g. of an advertisement); printing; posting (e.g. on the web) |
| 1 | 報告書 | ほうこくしょ (報告書) : (written) report |
| 1 | 納品 | のうひん (納品) : delivery of goods |