加入收藏 | 设为首页 | 会员中心 | 我要投稿 李大同 (https://www.lidatong.com.cn/)- 科技、建站、经验、云计算、5G、大数据,站长网!
当前位置: 首页 > 编程开发 > Python > 正文

python – 如何使用tf.data.Dataset.from_generator()向生成器

发布时间:2020-12-16 22:28:24 所属栏目:Python 来源:网络整理
导读:我想使用from_generator()函数创建一些tf.data.Dataset.我想向生成器函数(raw_data_gen)发送一个参数.这个想法是生成器函数将根据发送的参数产生不同的数据.通过这种方式,我希望raw_data_gen能够提供培训,验证或测试数据. training_dataset = tf.data.Datase

我想使用from_generator()函数创建一些tf.data.Dataset.我想向生成器函数(raw_data_gen)发送一个参数.这个想法是生成器函数将根据发送的参数产生不同的数据.通过这种方式,我希望raw_data_gen能够提供培训,验证或测试数据.

training_dataset = tf.data.Dataset.from_generator(raw_data_gen,(tf.float32,tf.uint8),([None,1],[None]),args=([1]))

validation_dataset = tf.data.Dataset.from_generator(raw_data_gen,args=([2]))

test_dataset = tf.data.Dataset.from_generator(raw_data_gen,args=([3]))

我尝试以这种方式调用from_generator()时得到的错误消息是:

TypeError: from_generator() got an unexpected keyword argument 'args'

这是raw_data_gen函数,虽然我不确定你是否需要这个,因为我的预感是问题是调用from_generator():

def raw_data_gen(train_val_or_test):

    if train_val_or_test == 1:        
        #For every filename collected in the list
        for filename,lab in training_filepath_label_dict.items():
            raw_data,samplerate = soundfile.read(filename)
            try: #assume the audio is stereo,ready to be sliced
                raw_data = raw_data[:,0] #raw_data is a np.array,just take first channel with slice
            except IndexError:
                pass #this must be mono audio
            yield raw_data,lab

    elif train_val_or_test == 2:
        #For every filename collected in the list
        for filename,lab in validation_filepath_label_dict.items():
            raw_data,lab

    elif train_val_or_test == 3:
        #For every filename collected in the list
        for filename,lab in test_filepath_label_dict.items():
            raw_data,lab

    else:
        print("generator function called with an argument not in [1,2,3]")
        raise ValueError()
最佳答案
您需要基于raw_data_gen定义一个不带任何参数的新函数.您可以使用lambda关键字执行此操作.

training_dataset = tf.data.Dataset.from_generator(lambda: raw_data_gen(train_val_or_test=1),[None]))
...

现在,我们将一个函数传递给from_generator,该函数不带任何参数,但只是将raw_data_gen作为参数设置为1.您可以对验证和测试集使用相同的方案,分别传递2和3.

(编辑:李大同)

【声明】本站内容均来自网络,其相关言论仅代表作者个人观点,不代表本站立场。若无意侵犯到您的权利,请及时与联系站长删除相关内容!

    推荐文章
      热点阅读