我有推特的json文件,其中包含以下数据。
ID、全名、文本、时间戳、URL用户、全名、转发等
每个json文件都是唯一的,但在某些json中,['TEXT']字段是相同的。
我想删除那些在['text']字段中包含相同推文的json文件。
下面是我的json文件示例。。两个json都来自不同的用户,但他们推特的文本相同。
{
'fullname': 'آدÙ
',
'id': '772154564711768064',
'likes': '5',
'replies': '0',
'retweets': '0',
'text': '#GoNawazGoNawaz\n''This woman has realized the truth....hope nation realizes it ''too.... \n''#PanamaLeaks\n''#GoNawazGoNawazpic.twitter.com/6m7nWgldQp',
'timestamp': '2016-09-03T19:29:28',
'url': '/NaikOlad/status/772154564711768064',
'user': 'NaikOlad'
}{
'fullname': 'سÙÙ
ا٠اعÙاÙ',
'id': '772156567542231040',
'likes': '0',
'replies': '0',
'retweets': '0',
'text': '#GoNawazGoNawaz\n''This woman has realized the truth....hope nation realizes it ''too.... \n''#PanamaLeaks\n''#GoNawazGoNawazpic.twitter.com/L2tZUOVs1z',
'timestamp': '2016-09-03T19:37:26',
'url': '/SaluBhai420/status/772156567542231040',
'user': 'SaluBhai420'
}