2.5 Безпека систем штучного інтелекту Apple Intelligence та Siri
Контроль над генеративними моделями Apple Intelligence, доступом Siri до персональних даних та інтеграцією сторонніх AI-провайдерів.
Рекомендацій: 6
macOS 26 Tahoe v1.1.0
2.5.1.1 Переконайтеся, що розширення зовнішньої розвідки вимкнено (Автоматизовано)
External Intelligence Extensions дозволяє Apple Intelligence взаємодіяти з генеративні інструменти штучного інтелекту сторонніх розробників. Розширення зовнішнього інтелекту Apple представляє a розрахований ризик. Вони поширюють свою модель конфіденційності та безпеки на пристрої хмара з PCC (Private Cloud Compute), а потім ретельно інтегрується з третьою сторонній штучний інтелект, такий як ChatGPT, який наголошує на згоді користувача, мінімізації даних і сильному договірні зобов’язання. Внутрішній характер надсилання даних до зовнішньої служби, однак це означає, що певний ступінь довіри покладається на безпеку цієї третьої сторони та дотримання домовленостей. Надсилання даних до зовнішньої служби є додатковим ризиком повинні бути переглянуті та прийняті в організаційному плані безпеки.
Хоча Apple доклала значних зусиль для розробки Apple Intelligence з конфіденційністю, Перший підхід, розширення зовнішньої розвідки створює законні ризики безпеці які можуть змусити особу чи організацію вимкнути його.
Користувач втратить можливість використовувати Apple Intelligence для створення абсолютно нового надсилайте текстові повідомлення або отримуйте доступ до більшої кількості ресурсів безпосередньо у своїх програмах. Ви не могли використовувати Siri або Writing Tools, щоб створити складний електронний лист з нуля або створити творчий матеріал вміст, який виходить за межі можливостей пристрою, але потребує використання окремого третього сторонні постачальники ШІ.
Виконайте наведені нижче дії, щоб переконатися, що сторонні інтеграції в Apple Intelligence вимкнено:
- Відкрийте налаштування системи
- Виберіть Загальні
- Виберіть Керування пристроєм
- Переконайтеся, що встановлений профіль має значення False для параметра «Дозволити розширення зовнішнього аналізу».
- Переконайтеся, що встановлений профіль має значення False для параметра «Дозволити вхід із зовнішньої розвідки».
Виконайте команду в Терміналі для перевірки:
/usr/bin/sudo /usr/bin/osascript -l JavaScript << EOS
$.NSUserDefaults.alloc.initWithSuiteName('com.apple.applicationaccess').objectForKey('allowExternalIntelligenceIntegrations').js
EOS
% /usr/bin/sudo /usr/bin/osascript -l JavaScript << EOS $.NSUserDefaults.alloc.initWithSuiteName('com.apple.applicationaccess').objectForKey('allowExternalIntelligenceIntegrationsSignIn').js EOS помилковий
Параметри конфігурації керування пристроями (DDM). Існуючий аудит перевірить це
рекомендація була встановлена через профіль конфігурації або через DDM.
Створіть або оновіть профіль MDM із такими значеннями:
- Рядок PayloadType – це com.apple.applicationaccess
- Ключ, який потрібно включити, це allowExternalIntelligenceIntegrations
- Ключ повинен бути встановлений на
- Другий ключ, який слід включити
- allowExternalIntelligenceIntegrationsSignIn
- Ключ повинен бути встановлений на
📋 CIS Controls & Нормативні посилання
IG 1, 2, 3
IG 1, 2
IG 1, 2
IG 1, 2, 3
IG 1, 2
2.5.1.2 Переконайтеся, що засоби запису вимкнено (Автоматизовано)
Інструменти Apple Intelligence Writing Tools — це набір інтегрованих функцій на основі ШІ iOS, iPadOS і macOS, що дозволяє користувачам покращувати свій текст за допомогою коректури помилки, переписування вмісту для коригування тону чи стилю, узагальнення довгих уривків у лаконічні форми, і навіть складання нового тексту з нуля. Хоча таких багато безпечно обробляти функції на пристрої, є можливість використовувати Apple приватна хмарна інфраструктура.
Основний аргумент безпеки для вимкнення інструментів запису Apple Intelligence обертається навколо неприйнятного ризику для третіх сторін і потенціалу для ненавмисний витік даних. Для окремих осіб або організацій, які займаються чутливими, конфіденційні чи регульовані дані, передбачувані ризики впливу третьої сторони, потенційні випадковий витік даних і проблеми з відповідністю часто переважують зручність переваги. Вимкнення цієї функції є раціональним і проактивним заходом безпеки.
Вимкнення інструментів запису Apple Intelligence означає, що ви можете зменшити зручність і ефективність для письма, що змушує вас виконувати ці завдання вручну. Однак це також посилює безпека та конфіденційність, запобігаючи потенційному надсиланню будь-якого тексту за межі пристрою.
Виконайте такі дії, щоб переконатися, що засоби запису в Apple Intelligence вимкнено:
- Відкрийте налаштування системи
- Виберіть Загальні
- Виберіть Керування пристроєм
- Переконайтеся, що встановлений профіль має значення False для параметра «Дозволити засоби запису».
Виконайте команду в Терміналі для перевірки:
/usr/bin/sudo /usr/bin/osascript -l JavaScript << EOS
$.NSUserDefaults.alloc.initWithSuiteName('com.apple.applicationaccess').objectForKey('allowWritingTools').js
EOS
false
Створіть або оновіть профіль MDM із такими значеннями:
- Рядок PayloadType – це com.apple.applicationaccess
- Ключ, який потрібно включити, це allowWritingTools
- Ключ повинен бути встановлений на
📋 CIS Controls & Нормативні посилання
IG 1, 2, 3
IG 1, 2
IG 1, 2
IG 1, 2, 3
IG 1, 2
2.5.1.3 Переконайтеся, що підведення підсумків пошти вимкнено (Автоматизовано)
Функція підсумовування пошти Apple Intelligence використовує штучний інтелект для швидкого ущільнення довгих електронних листів або цілі ланцюжки електронних листів у кілька ключових речень або пунктів. Це автоматично відображається як короткий підсумок під електронними листами у вашій папці "Вхідні", або ви можете вручну торкнутися a Кнопка «Підсумувати» у відкритому електронному листі, щоб отримати більш детальний огляд комплексу повідомлення та розмови, допомагаючи вам зрозуміти головне з першого погляду без читаючи все.
Якщо є занепокоєння щодо того, що ваш конфіденційний вміст електронної пошти, навіть якщо для узагальнення, може потенційно буде скеровано до цієї сторонньої служби (навіть із запитами згоди), або якщо ви хочемо уникнути будь-якої можливості обробки серверами Apple даних з дуже конфіденційних даних комунікацій (навіть у межах надійних гарантій PCC), вимкнення цієї функції гарантує вміст вашої електронної пошти обробляється через затверджені організаційні служби та на керованому пристроїв. Це надає пріоритет абсолютному контролю та мінімізує будь-який зовнішній ризик обробки для дуже конфіденційна інформація.
Користувач більше не бачитиме автоматичних коротких підсумків під електронними листами або матиме можливість генерувати їх на вимогу.
Виконайте наведені нижче дії, щоб переконатися, що зведення пошти в Apple Intelligence вимкнено:
- Відкрийте налаштування системи
- Виберіть Загальні
- Виберіть Керування пристроєм
- Переконайтеся, що встановлений профіль має значення False для параметра Allow Mail Summary
Виконайте команду в Терміналі для перевірки:
/usr/bin/sudo /usr/bin/osascript -l JavaScript << EOS
$.NSUserDefaults.alloc.initWithSuiteName('com.apple.applicationaccess').objectForKey('allowMailSummary').js
EOS
false
Створіть або оновіть профіль MDM із такими значеннями:
- Рядок PayloadType – це com.apple.applicationaccess
- Ключ, який потрібно включити, це allowMailSummary
- Ключ повинен бути встановлений на
📋 CIS Controls & Нормативні посилання
IG 1, 2, 3
IG 1, 2
IG 1, 2
IG 1, 2, 3
IG 1, 2
2.5.1.4 Переконайтеся, що підсумовування нотаток вимкнено (Автоматизовано)
Функція підсумовування нотаток Apple Intelligence швидко згущує вміст усередині Додаток для нотаток. Це включає узагальнення написаного тексту, який ви виділили, або, зокрема, автоматичне створення підсумків із аудіозаписів, зроблених безпосередньо в Notes, як лекції чи зустрічі, допомагаючи вам осягнути ключову інформацію з першого погляду.
Для безпеки ваших аудіозаписів або нотаток доцільно вимкнути зведення нотаток містять дуже конфіденційну або конфіденційну інформацію. Тоді як Apple зазвичай зберігає ваші дані безпечно, якщо вимкнути цю функцію, цей конфіденційний вміст, особливо з транскрибований аудіо, завжди залишає ваш пристрій для будь-якої обробки штучним інтелектом, надаючи вам максимум контроль над вашими конфіденційними даними.
Якщо ви вимкнете функцію підсумовування нотаток Apple Intelligence, головний вплив буде таким користувач не отримуватиме автоматичні або на вимогу резюме ваших письмових нотаток чи аудіо записи.
Виконайте наведені нижче дії, щоб переконатися, що узагальнення нотаток в Apple Intelligence вимкнено:
- Відкрийте налаштування системи
- Виберіть Загальні
- Виберіть Керування пристроєм
- Переконайтеся, що для встановленого профілю для параметра «Дозволити транскрипцію нотаток» встановлено значення «Хибне».
- Переконайтеся, що для встановленого профілю для параметра Allow Notes Transcription Summary встановлено значення False
Виконайте команду в Терміналі для перевірки:
/usr/bin/sudo /usr/bin/osascript -l JavaScript << EOS
$.NSUserDefaults.alloc.initWithSuiteName('com.apple.applicationaccess').objectForKey('allowNotesTranscription').js
EOS
% /usr/bin/sudo /usr/bin/osascript -l JavaScript << EOS $.NSUserDefaults.alloc.initWithSuiteName('com.apple.applicationaccess').objectForKey('allowNotesTranscriptionSummary').js EOS помилковий
Створіть або оновіть профіль MDM із такими значеннями:
- Рядок PayloadType – це com.apple.applicationaccess
- Ключ, який потрібно включити, це allowNotesTranscription
- Ключ повинен бути встановлений на
- Другий ключ, який слід включити, це allowNotesTranscriptionSummary
- Ключ повинен бути встановлений на
📋 CIS Controls & Нормативні посилання
IG 1, 2, 3
IG 1, 2
IG 1, 2
IG 1, 2, 3
IG 1, 2
2.5.2.1 Переконайтеся, що Siri вимкнено (Автоматизовано)
З macOS 10.12 Sierra Apple представила Siri з iOS на macOS. Поки там проблеми з витоком даних у зв’язку з використанням програмного забезпечення персонального помічника для збору даних, Ризик тут не здається більшим при надсиланні запитів до Apple через Siri, ніж у надсилання пошукових термінів у браузері до Google або Microsoft. Хоча можливо, що Siri Теоретично Siri може використовуватися для локальних дій, а не для пошуку в Інтернеті Apple про конфіденційні програми та проекти, які не слід розголошувати. Це здається, це крайній випадок використання. У випадках, коли обробляються конфіденційні або захищені дані, і Siri може це викрити інформації через допомогу користувачеві в навігації на машині, її слід вимкнути. Siri дійсно потрібно зателефонувати додому до Apple, тому вона не повинна бути доступна з повітряного розриву мереж як частину своїх вимог. Більшість опублікованих даних про випадки використання показали, що Siri надзвичайно економить час iOS, де потрібно переміщатися по кількох екранах і меню. Інформація як результати спортивних змагань, погода, час перегляду фільмів і прості завдання в існуючих календарях можуть легко знайти за допомогою Siri. Жоден із стандартних випадків використання не повинен бути більш ризикованим, ніж вже схвалена діяльність. Щоб отримати інформацію про політику конфіденційності Apple для Siri, натисніть тут.
Siri вимикається, оскільки функція прослуховування «Siri» або «Hey Siri» недоступна вимкнено глобально або навіть через певний користувач plist. Через це гарантія відсутня що слухати вимкнено, тому мікрофон живий і фіксує все навколо це.
Якщо Siri вимкнено, користувач втрачає можливість виконувати завдання без використання рук інформацію та керувати своїм пристроєм за допомогою голосових команд.
Щоб перевірити налаштування Siri, виконайте такі дії:
- Відкрийте налаштування системи
- Виберіть Загальні
- Виберіть Керування пристроєм
- Переконайтеся, що встановлений профіль має значення False для дозволу помічника
Виконайте команду в Терміналі для перевірки:
/usr/bin/sudo /usr/bin/osascript -l JavaScript << EOS
$.NSUserDefaults.alloc.initWithSuiteName('com.apple.applicationaccess').objectForKey('allowAssistant').js
EOS
false
корисне навантаження профілю. Це застарілий профіль, а тепер
слід використовувати com.apple.applicationaccess.
Створіть або оновіть профіль MDM із такими значеннями:
- Рядок PayloadType – це com.apple.applicationaccess
- Ключ, який потрібно включити, це allowAssistant
- Встановіть ключ на
📋 CIS Controls & Нормативні посилання
IG 1, 2, 3
IG 1, 2
IG 1, 2, 3
IG 1, 2
2.5.2.2 Переконайтеся, що функцію прослуховування (Siri) вимкнено (Вручну)
macOS містить цифрового помічника Siri, і якщо його ввімкнено, він завжди слухає, якщо це так необхідний. У Sonoma користувач може вибрати «Hey Siri» або «Siri» та «Hey Siri». в у будь-якому випадку Siri постійно використовує мікрофон, щоб слухати інструкції, а потім може записувати запитання після активації. В організаційному середовищі, де люди розмовляють і слухають під час відео/голосових дзвінків, є забагато можливостей для несанкціоноване розголошення інформації мати живий мікрофон у будь-який час. Якщо Siri буде використовується, він може бути увімкненим, «Слухати» вимкнено та вибрано комбінацію клавіш. Примітка: наразі цю рекомендацію неможливо вимкнути глобально за допомогою профілю або індивідуально зі зміною plist, але лише через GUI. Завдяки цьому ми рухаємося цю рекомендацію вручну (але все одно вимкнено) і вимикайте Siri, доки вона не буде можна вимкнути Прослуховування за допомогою методу без графічного інтерфейсу.
У більшості середовищ існує занадто великий необмежений ризик витоку даних через a мікрофон завжди ввімкнено, слухає інструкції та слухає запитання, якщо є увага отримані, покладаючись на хмарні обчислення, щоб відповісти на них. Є багато прикладів даних витік технологій у цьому просторі, а також майбутні вразливості та помилки, безумовно, є можливо.
Siri не буде доступна для використання в режимі "вільні руки" або взагалі буде недоступна, якщо її вимкнути повністю.
Щоб переконатися, що "Hey Siri" вимкнено, виконайте такі дії:
- Відкрийте налаштування системи
- Виберіть Загальні
- Виберіть Керування пристроєм
- Переконайтеся, що для встановленого профілю для VoiceTriggerUserEnabled встановлено значення 0
Виконайте команду в Терміналі для перевірки:
/usr/bin/sudo /usr/bin/osascript -l JavaScript << EOS
$.NSUserDefaults.alloc.initWithSuiteName('com.apple.Siri').objectForKey('VoiceTriggerUserEnabled').js
EOS
false
Створіть або оновіть профіль MDM із такими значеннями:
- Рядок PayloadType — com.apple.Siri
- Ключ, який потрібно включити, має значення VoiceTriggerUserEnabled
- Ключ повинен бути встановлений на
додаткові входи. Здається, ця проблема виникає лише під час використання дисплея Apple Studio (і
можливо, Pro Display XDR, але з цим пристроєм не проводилося тестування), і це не так
первинне джерело вхідного сигналу. Ми збираємося продовжити тестування, але це, схоже, є
крайовий корпус.
📋 CIS Controls & Нормативні посилання
- https://support.apple.com/guide/mac-help/use-siri-
- mchl6b029310/mac#:~:text=Turn%20on%20Siri,may%20need%20to%20scroll%
- 20down.)&text=On%20the%20right%2C%20turn%20on,already%20on%2C%20t
- hen%20click%20Enable.
- https://clario.co/blog/is-siri-always-listening/
- https://www.siriuserguide.com/how-to-use-siri-macos/
IG 1, 2, 3
IG 1, 2
IG 1, 2, 3
IG 1, 2
Потрібні інші розділи стандарту?
Перегляньте повний інтерактивний перелік усіх рекомендацій у головному хабі стандарту.
