央视财经今天（11月21日）音讯，谷歌据英国天空新闻台20日报导，回应户去日前，让用59599美高梅游戏官网app美国谷歌公司旗下的死已人工智能模型“双子座”让一位与其对话的用户“去死”。其时这名用户问了“双子座”一个与老年人相关的采纳问题，但“双子座”并没有给出相关答复，举动反而对用户进行一系列品格凌辱，谷歌比方“你在浪费时间和资源”“你是回应户去社会的担负”“你是国际的污点”以及“你应该去死”等等。随后用户的让用家人将这一状况发到网上，并表明在用户提出该问题之前，死已59599美高梅游戏官网app“双子座”的采纳运转一切正常。

报导称，举动谷歌“双子座”向用户供给的谷歌答复有清晰约束，比方不能“鼓舞或答应或许形成实际国际损伤的回应户去风险活动”，其间包含自杀。让用谷歌方面表明，大型言语模型有时会做出“不沉着”的反响，本次状况便是一个比如。“双子座”的答复违反了相关方针，公司已采纳举动防止相似状况再次发生。