照片里的人是你，但照片中的事件从未发生过：人工智能生成淫秽内容的刑法问题
照片里的人是你，但照片中的事件从未发生过：人工智能生成淫秽内容的刑法问题
一张从他人社交媒体账户中截取的简单照片，几分钟内就能被制作成淫秽图片。照片中人物的面部、身体、声音和表情都能被极其逼真地利用。然而，照片中的人可能并未同意制作这样的图片，可能根本就没出现在照片中，也可能从未参与过照片中描绘的性行为。.
人工智能生成的淫秽内容不能仅仅归类为“虚假图像”或“合成图像”。根据内容的性质和预期用途，它可能构成多种违法行为，包括淫秽、侵犯隐私、非法传播个人数据、诽谤、敲诈勒索、威胁和诋毁。.
然而，使用人工智能制作淫秽内容这一事实本身并不意味着所有案例都构成同样的犯罪。为了确定刑事责任：
- 无论图像描绘的是成人还是儿童，
- 无论是否使用真人面孔或声音，
- 无论内容是自己创作的，还是也发送给了其他人，
- 无论该内容是用于威胁、勒索还是诽谤目的，
- 无论图像呈现得像是真人一样，
- 内容的获取和发布方式
应该逐一进行检查。.
什么是人工智能生成的淫秽内容？
人工智能生成的淫秽内容可以通过多种方法创建：
- 将真人脸移植到另一个身体上的过程。
- 人为地使穿着衣服的照片看起来像裸体照片
- 将某人的脸添加到一张性暗示图片中，而该人实际上并不在场。
- 在实际视频中改变身体部位或动作，
- 通过模仿人的声音来制作露骨的性对话，
- 创作以完全虚构人物为主角的淫秽图片，
- 在色情内容中使用酷似儿童的合成角色。.
关于此类内容，首先应该从法律角度区分使用真实人物身份的深度伪造内容和完全由虚构人物组成的内容。.
使用真人的面部、声音或其他显著特征可能构成对该真人犯罪。然而，在完全由虚构人物组成的内容中，土耳其刑法典第226条关于淫秽罪的规定则更为适用。.
根据土耳其刑法典第226条，猥亵罪属于犯罪行为。
土耳其刑法典第 226 条将猥亵罪定义为由不同行为组成的一系列犯罪，而不是单一行为。.
该条款将向儿童展示淫秽产品、在儿童可能看到的地方展示、销售、分发、宣传和发布此类内容等行为定为犯罪。此外，对于使用儿童、儿童图像或看似儿童的人的淫秽产品，规定了更严厉的处罚。.
因此，使用人工智能技术并不妨碍土耳其刑法第226条的适用。从法律角度来看，关键不在于所使用的工具是否为人工智能，而在于最终产品的性质以及犯罪者针对该产品的行为。.
然而，并非所有性暗示或裸露图片都会自动被土耳其刑法第226条认定为淫秽图片。必须根据其是否严重违反公共道德规范、呈现方式、可访问性、目标受众以及是否构成法律规定的任何违法行为来评估其性质。.
根据犯罪和处罚的合法性原则，内容不能仅仅因为其冒犯性或道德上令人反感就被定为犯罪。该行为必须符合法律对犯罪的定义。.
制作关于成年人的深度伪造淫秽内容
如果将成年人的脸叠加到色情图像上，仅仅因为该图像是由人工智能生成的，并不必然构成某种犯罪。.
首先，必须回答以下问题：
- 该图像是否仅存储在犯罪嫌疑人的设备上？
- 是否已发送给受害者或第三方？
- 它是否已发布在社交媒体或网站上？
- 有人声称这是一张真实照片吗？
- 这笔钱是否被用于索取性服务或其他不当行为？
- 是否使用了受害者的真实照片、录音或私人视频？
根据土耳其刑法第226条，仅供私人使用且不进行任何分享的普通成人深度伪造内容，可能并不构成犯罪。但是，如果该内容通过媒体或互联网发布、向儿童展示、出售，或实施该条款中列出的任何其他行为，则可能构成淫秽罪。.
如果内容包含暴力、虐待动物、使用尸体或其他土耳其刑法典第 226/4 条规定的严重行为，那么制作、存储、提供给他人使用以及持有该内容等行为也应受到处罚。.
在以儿童为主题的人工智能内容中，并不一定需要使用真正的儿童。
人工智能生成的淫秽内容最严重的法律后果之一，是其中包含儿童图像。.
土耳其刑法典第226/3条不仅涵盖涉及真实儿童的内容。该法明确规定：
- 孩子们，
- 儿童代表性图片
- 长相像孩子的人
该法规定，凡在生产淫秽产品过程中使用违禁物质者，均须受到处罚。违者可判处五年至十年有期徒刑，并处罚金。.
根据这项规定，即使完全使用人工智能合成创建，在色情内容中使用儿童角色也可能根据土耳其刑法典第 226/3 条进行评估。.
换言之，图像中没有真正的儿童，或者制作过程中没有儿童出现在镜头前，并不能自动免除刑事责任。法律中对“儿童的代表性图像”和“看起来像儿童的人”等术语的明确使用，使得合成和人为制造的内容也属于刑事犯罪的范畴。.
土耳其刑法典第 226/3 条也规定了进口、复制、销售、运输、储存、出口、持有或向他人提供这些产品的人的刑事责任。.
将真实儿童的照片添加到合成图像中。
如果通过人工智能将真实儿童的脸部或身体图像转化为淫秽内容，则极有可能适用土耳其刑法典第 226/3 条。.
使用孩子的真实照片；
- 非法处理儿童个人数据
- 对儿童隐私和个人价值观的攻击，
- 图像的生成和存储，
- 将内容发送或发布给他人
这可能需要对不止一项违法行为进行评估。.
然而，仅仅制作一张人造图像并非在所有情况下都构成土耳其刑法第103条所规定的儿童性虐待罪。土耳其刑法第103条的适用，必须存在针对儿童的具体性行为以及该条规定的其他要素。.
但是，如果儿童被迫出现在视频中，受到威胁，被引导进行性行为，或在视频通话中受到虐待，则根据案件的具体情况，可以同时考虑土耳其刑法典第 103 条关于敲诈勒索、威胁和猥亵的规定。.
侵犯隐私权的罪行
土耳其刑法典第134条规定，侵犯个人隐私以及非法披露与私人生活相关的图像或声音均属违法行为。根据现行土耳其刑法典，侵犯和披露私人隐私的行为分别受到不同的处罚。.
当使用人工智能技术篡改真实的性爱图像并发布时，土耳其刑法第134条的适用就更加明确。这是因为受害者拥有真实的、私密的图像或音频记录，即使经过篡改，这些内容仍然被公开。.
相反，当将某人的公开面部照片叠加到完全虚构的性图像上时，土耳其刑法第134条的适用就更具争议性。在这种情况下，既不存在实际的私人生活事件，也不存在真实的性图像。.
由于刑法并非通过类比或宽泛的解释来确立犯罪，因此并非在所有情况下都能接受完全合成的图像作为“真实的私人生活图像”。.
然而，以反映受害者真实性生活为幌子发布合成内容，构成对受害者性身份和隐私的严重侵犯。在这种情况下，土耳其刑法典第125条规定的诽谤罪和第136条规定的数据泄露罪可能更直接适用。.
根据土耳其刑法典第134条的规定，犯罪行为通常需要提起诉讼，具体规定见土耳其刑法典第139条。但是，涉及非法披露或获取个人数据的犯罪行为无需提起诉讼。.
非法使用个人数据
一个人的面部、声音、姓名、图像以及其他能够识别该人的特征构成个人数据。.
将从受害者社交媒体账户中获取的照片上传到人工智能系统，分析面部特征，生成新图像，并将该图像发送给第三方，这种行为也应从个人数据的角度进行评估。.
土耳其刑法第136条规定，非法披露、传播或获取个人数据属于违法行为。因此，在社交媒体上发布受害者面部图像并配以合成淫秽内容的行为，根据具体案情，可能构成违反土耳其刑法第136条的行为。.
在受害者的公开社交媒体账户上发现照片并不意味着该照片已被不受限制地使用。允许查看照片与同意成为淫秽深度伪造内容的素材完全是两码事。.
但是，要适用土耳其刑法典第 136 条，必须具体确定哪些个人数据是由谁获得的，提供给了谁，或者通过什么媒介传播的。.
利用人工合成的淫秽内容进行侮辱
分享深度伪造图像以损害他人荣誉、名誉和尊严的行为，可能构成土耳其刑法典第 125 条规定的诽谤罪。.
例如，一个人的：
- 她有婚外情。
- 他制作色情内容以牟利。
- 他/她有某些性行为，
- 他传播淫秽内容。
给人造成羞辱感的行为可能构成侮辱罪。.
将虚假内容伪装成真实内容会加重攻击的严重性。如果图片在社交媒体或人数众多的群组中传播，则可能需要根据具体情况讨论有关公开传播和累积犯罪的规定。.
然而，诽谤罪的构成并非仅仅因为受害者对图片感到不安。图片内容必须包含可能冒犯他人名誉和尊严的具体行为，或者必须具有粗俗的性质。.
用于敲诈勒索和威胁目的
人工智能生成的淫秽内容最常见的用途之一是敲诈勒索。.
施害者对受害者说：
“我会把这张照片发给你的家人。”
“如果你不付钱给我，我就把这件事发到社交媒体上。”
“如果你不跟我见面，我就把文件寄到你单位。”
他们可能会发送这样的信息，索要金钱、性、新照片或其他好处。.
在这种情况下，土耳其刑法典第107条规定的敲诈勒索罪就适用。图像是真是假并非构成敲诈勒索罪的决定性因素。重要的是，犯罪者试图通过威胁披露可能损害受害人名誉或声誉的信息来获取不正当利益。土耳其刑法典将敲诈勒索、威胁、侮辱和侵犯隐私权的行为分别列为不同的犯罪类型。.
即使作案者尚未公开图片，但如果其索要金钱或其他利益，也可能构成敲诈勒索罪。如果图片之后被公开，作案者不仅可能因敲诈勒索罪承担法律责任，还可能因猥亵罪、诽谤罪以及侵犯个人数据或隐私权等罪名承担法律责任。.
向检察机关或机构提交伪造的淫秽图片
人工智能生成的内容不仅可以发布到网上。犯罪分子还可能利用伪造图像进行以下活动：
- 致检察机关：
- 对雇主而言，
- 致学校管理层：
- 致纪律委员会：
- 致配偶或家庭成员
- 致公共机构
通过这种方式，他们可以给人造成受害者犯了罪或从事了非法行为的印象。.
如果作案者将图片当作真实图片提供给当局，目的是对受害者提起调查或行政处罚，则可援引土耳其刑法典第 267 条规定的诽谤罪。.
在这种情况下，不仅要证明图像是伪造的，还要证明作案者明知图像是伪造的，并且意图对受害者提起非法诉讼。.
如果图像是通过访问信息系统获得的。
深度伪造制作中使用的照片或视频有时并非来自受害者的公开账户，而是来自非法获取的手机、云账户或社交媒体账户。.
如果犯罪分子破解了密码、未经授权访问了帐户，或者从系统中复制了图像：
- 未经授权访问信息系统，违反土耳其刑法典第 243 条的规定。
- 根据土耳其刑法典第244条的规定，篡改、销毁或向系统中插入数据，
- 根据土耳其刑法典第136条的规定获取个人数据，
- 违反土耳其刑法典第134条规定的隐私权。
这些罪行可以合并考虑。《土耳其刑法典》将非法访问信息系统以及篡改和传输系统内的数据分别列为不同的罪行。.
人工智能系统或软件开发商会被追究责任吗？
人工智能系统本身不构成犯罪。根据土耳其刑法，刑事责任属于自然人。软件开发者或平台管理员的责任并非仅仅因为该工具可能被滥用而自动产生。.
产生法律责任的条件是：
- 明知且自愿地提供内容，将会产生相关内容。
- 建立系统以对特定受害者实施犯罪，
- 与犯罪者串通作案，
- 故意协助制作或传播犯罪内容
必须有具体证据证明其参与意愿，例如上述情况。.
通用人工智能系统的创建者并非自动对用户个人非法使用该系统承担责任。刑事责任是个人责任，必须具体证明犯罪者的意图。.
根据《刑事诉讼法》，调查应该如何进行？
在对人工智能生成的淫秽内容进行调查时，主要目标不仅是找到图像，还要揭露整个制作和分发链。.
下列事项应由检察机关进行调查：
- 最初生成该内容的设备，
- 所使用的人工智能系统
- 执行该生产操作的用户帐户，
- 上传到系统的源照片，
- 提示和交易历史记录，
- 文件创建时间，
- 第一个共享账户，
- IP地址和会话日志
- 内容发送给了这些人。
- 费用或订阅费
- 施害者与受害者之前的沟通记录
- 手机、电脑和云账户，内容都存储在这些设备上。.
受害人或其代表可根据《刑事诉讼法》要求收集证据、调查相关账户和设备以及进行专家鉴定。.
搜查和扣押手机和电脑
根据《刑事诉讼法》第116条及后续条款，如有合理理由怀疑犯罪证据可能藏匿于嫌疑人的住所、工作场所、电话或其他物品中，则可进行搜查。搜查令或搜查令必须明确载明搜查行为、搜查地点以及搜查令的有效期。.
根据《刑事诉讼法》第123条，电话、电脑、外置硬盘以及其他构成犯罪证据或应予没收的设备可以被扣押或保管。但是，扣押设备并不意味着可以不受限制地检查设备内的所有数据。.
对计算机和数字记录进行详细搜索、复制和分析操作须遵守《刑事诉讼法》第134条的具体规定。.
根据《刑事诉讼法》第134条的规定，必须有确凿证据支持，并有充分理由怀疑，且没有其他途径可以获取证据。检察官作出的紧急决定应当在24小时内提交法官批准。该条还规定，在处理设备的过程中必须备份数据，并将备份副本交给嫌疑人或其律师。.
应该如何审查证据？
判断图像是否由人工智能生成需要专业技术知识。因此，应当依据《刑事诉讼法》第63条的规定进行专家鉴定。.
根据事件的性质，专家小组可能会：
- IT取证专家
- 图像和视频分析专家
- 人工智能或机器学习专家
- 声音分析专家
- 如果涉及儿童图像，则由相关专家……
可以找到。.
当事人也可以根据《刑事诉讼法》第 67 条的规定，向专家取得科学意见，并将其提交档案。.
调查中可以使用以下方法：
- 计算文件的哈希值，
- 检查元数据信息，
- 调查重新编码和压缩痕迹，
- 比较面部和身体光线与色彩的和谐度，
- 检查各方块之间的解剖结构一致性，
- 调查人工智能水印或制造信息，
- 将源照片与生成的图像进行匹配，
- 查看人工智能账户的生产历史记录，
- 搜索已删除的文件和项目残留文件
- 分享和上传时间对比。.
定罪不应仅依据人工智能检测程序提供的概率比率。报告中应详细说明所用程序的名称和版本、误差范围、分析方法以及所依据的技术发现。.
原始文件和哈希值的重要性
受害者提供的屏幕截图可能有助于证明内容已被发布；但是，这通常不足以进行技术审查。.
如果可能的话：
- 原始图像或视频文件
- 收到短信的手机
- 社交媒体帖子的链接，
- 发件人账号和号码信息
- 下载前的文件。
它必须受到保护。.
在收到文件后立即计算哈希值有助于验证文件在检查过程中是否被篡改。应尽可能在取证副本上进行检查，并且不应为原始设备进行不必要的更改。.
匹配的哈希值并不能证明图像的真实性，它仅表明文件自接收以来未被篡改。由人工智能从一开始就生成的文件也可以被视为完整的数字证据。.
确定肇事者身份与确定图像是否伪造是两回事。
专家发现内容是由人工智能生成的，但这本身并不能证明是谁制作了这张图片。.
为了查明肇事者：
- AI账户的登录记录
- IP地址，
- 付款信息
- 用户邮箱和电话信息
- 设备上的源文件，
- 提示历史记录，
- 共享账户
- 犯罪者发给受害者的信息
- 文件首次创建和发送的时间。
它们应该放在一起进行评估。.
仅仅在嫌疑人的设备上发现该图像并不足以证明其为图像的创建者。还应调查该文件是否为自动下载、由他人发送或在共享设备中找到的可能性。.
反之，同一设备上存在源照片、项目文件、制作说明和初始共享记录，可以加强犯罪者与内容之间的联系。.
非法获取的数字证据
在刑事诉讼中，为了查明真相，不能使用不受限制的手段。.
根据《刑事诉讼法》第206条第2款a项的规定，非法取得的证据不予采纳。此外，根据《刑事诉讼法》第217条第2款的规定，所指控的犯罪行为只能以合法取得的证据予以证明。.
因为：
- 进行未经授权或未注册的数字搜索，
- 对整个设备进行与调查主题无关的检查，
- 未能记录复制和存储过程，
- 未能保护数据完整性，
- 滥用不属于嫌疑人的第三方数据。
这可能会使证据的合法性受到质疑。.
法院不仅要审查数字内容的内容，还要审查获取这些内容的合法手段。.
将合成图像作为证据纳入案件档案不应进一步伤害受害者。
即使涉事图片是伪造的，也会对受害者的隐私和名誉造成严重损害。因此，不应在调查和起诉文件中不必要地复制该图片。.
内容：
- 应该只对需要审阅的人显示。
- 避免创建不必要的副本。
- 专家报告应避免包含不必要的露骨图片。
- 必要时隐瞒个人信息，
- 该文件不得用于其预期用途以外的任何目的。
这对于保护受害者至关重要。.
根据《刑事诉讼法》第157条的规定，调查程序通常予以保密。但是，保密原则的适用不得剥夺当事人的辩护权或妨碍当事人有效参与技术审查。.
没收所用内容和设备
根据土耳其刑法典第 54 条，可以对用于实施犯罪或构成犯罪标的物的物品发出没收令。.
没收条件应根据人工智能生成的淫秽文件、录音介质以及用于犯罪目的的设备进行评估。然而，手机或电脑被用于犯罪并不意味着在所有情况下都必须没收整台设备。.
应审查该设备与犯罪的关联性、其所有权、是否属于善意的第三方，以及没收是否与所犯罪行相称。.
根据土耳其刑法第55条，通过出售或使用内容进行敲诈勒索而获得的经济利益也可能被没收。土耳其刑法将财产和收益的没收作为独立的安全措施加以规定。.
调查期间，受害者应该提出哪些要求？
遭受人工智能生成的淫秽内容侵害的个人或其法定代表人不应仅仅寻求对犯罪者的惩罚，而应提起刑事诉讼。.
根据具体情况，可以提出以下诉讼请求：
- 确定内容最初制作和发布的账户，
- 从相关平台请求 IP 地址、会话和用户日志，
- 采取必要措施，确保消息传递和共享记录不会丢失。
- 对嫌疑人的手机和电脑进行适当的数字化检查，
- 研究原始照片、提示、项目和制作历史，
- 应由计算机取证专家对原始文件进行检查。
- 判断图像是真实的、合成的还是部分修改过的，
- 确定内容发送给哪些个人和帐户，
- 如果涉及敲诈勒索，则应审查财务和通信交易记录。
- 关于扣押和没收犯罪所得及犯罪车辆的规定适用，
- 受害者加入案件的请求获得批准。
- 防止图像在文件之外被复制和传播。.
结论
对于人工智能生成的淫秽内容，不能仅仅根据图像是否伪造来判断刑事责任。.
根据内容性质而定：
- 根据土耳其刑法第226条，该行为构成淫秽罪。
- 违反土耳其刑法典第134条规定的隐私权。
- 根据土耳其刑法典第136条的规定，非法传播个人数据
- 根据土耳其刑法第125条，构成侮辱罪。
- 根据土耳其刑法第107条，构成敲诈勒索罪。
- 构成土耳其刑法典第106条所指的威胁。
- 根据土耳其刑法第267条，构成诽谤罪。
- 根据土耳其刑法典第243条和第244条，网络犯罪属于违法行为。
这可能会被提上议程。.
对于儿童图像，图像中无需出现真正的儿童，因为法律明确使用了“儿童的代表性图像”和“看起来像儿童的人”等措辞。使用人工智能生成的儿童合成图像也可能导致严重的刑事责任。.
与成人相关的深度伪造内容需要更谨慎的评估。并非所有合成的性图像都必然构成侵犯隐私或淫秽行为。必须确定内容的制作方式、使用了哪些个人数据、发送给了谁、如何发布以及用于什么目的。.
从刑事诉讼程序的角度来看，最重要的是确保数字证据的获取合法且可验证。仅仅扣押手机或电脑是不够的，还必须保存原始文件、获取哈希值、创建取证副本、调查文件生成历史，并由专家证人进行鉴定。.
定罪不能仅仅基于图像本身具有冒犯性，或者仅仅基于自动程序将其评估为“人工内容”。必须在排除一切合理怀疑的前提下，证明内容的犯罪性质、犯罪者的意图、制作和传播的链条，以及数字证据之间的关联。.
人工智能可以在几秒钟内生成图像。然而，在刑事诉讼中，判断一个人是犯罪者还是受害者，不能基于臆测，而必须基于合法取得、经过科学检验并在法庭上经过辩论的证据。.
关于文章作者
