澳洲一名25岁女性日前在与男友进行视讯通话时，在镜头前短暂露出胸部，不料，通话竟瞬间遭到iPhone系统强制“冻结”，并跳出裸露内容警示。这起事件迅速引发各界对苹果（Apple）演算法运作机制、是否涉及侵犯个人隐私以及人工智能（AI）如何定义裸露等诸多讨论。

综合媒体报导，这位化名法兰琪（Frankie）的澳洲女子表示，当时她正趁着男友午休时间进行FaceTime视讯通话，过程中她向镜头露出了胸部，不料通话画面却突然卡死，双方皆无法听到声音或看到对方。

随后，男友的萤幕上跳出了一则系统通知，询问说“你确定要继续此通话吗？”警示内容指出该视讯可能包含裸露画面，并提供“继续观看”或“离开通话”的选项。

法兰琪对此感到十分震惊与错愕，“你根本不知道苹果到底掌握了什么、没掌握什么，或者他们到底看见了什么”。她进一步质疑演算法介入的标准以及对裸露的定义，“如果是远距离恋情在进行视讯亲密互动呢？我开始陷入恐慌，如果演算法对裸露有某种『标准』，导致它无法正确识别不同体型的身体怎么办？”

苹果“敏感内容警告”机制

法兰琪事后查证发现，干扰通话的机制为苹果iPhone内建的“敏感内容警告”（Sensitive Content Warning）功能。该功能透过机器学习技术，自动辨识图像与视频中是否包含潜在的敏感或裸露内容。

针对隐私疑虑，苹果官方技术文件强调，所有影像分析均在使用者装置本地端进行，苹果伺服器既不会收到系统检测敏感内容的通知，也无法获取或检视被分析的影音内容。

该功能旨在让使用者自主选择是否接收可能令人不适的情色画面，系统警示仅为预防性质。只有当使用者主动在iMessage或FaceTime中对检测到的裸露内容进行“检举”时，相关内容才会传送至苹果进行人工审查；若判断涉及违法行为，官方才会进一步移交执法机关。

成人使用者可透过“设定”>“隐私权与安全性”来自行决定开启或关闭“敏感内容警告”。儿童帐号则适用“通讯安全”（Communication Safety）机制，由家长透过“萤幕使用时间”强制管理，以防止未成年人接收或分享敏感照片。

防骚扰神器还是监视隐私？

法兰琪并非唯一对此感到困惑的使用者。她在美国论坛Reddit上发现，也有其他网友分享过类似经历。有人在视讯中向男友展示新买的比基尼时，同样触发了系统警示，并引发了“手机是否在秘密录影”的疑虑。

网友对此功能态度两极，支持者认为这是防止未经同意接收色情影像的强大安全防线；反对者则认为，在使用者不知情的情况下自动扫描私密通话，让人有种被技术监控的不适感。

经历这次“断讯风波”后，法兰琪表示自己并不打算停止与男友在视讯通话时的亲密互动，但她已第一时间要求男友关闭手机中的这项设定，回归不受干扰的两人世界。