python - 如何在我的 python 代码中启用 Intel Extension for Pytorch(IPEX)？

Question

我想在我的代码中使用 Intel Extension for Pytorch 来提高整体性能。参考此 GitHub ( https://github.com/intel/intel-extension-for-pytorch ) 进行安装。

目前，我正在尝试一个拥抱人脸摘要 PyTorch 示例（https://github.com/huggingface/transformers/blob/master/examples/pytorch/summarization/run_summarization.py）。下面是用于训练的训练器 API。

   # Initialize our Trainer
    trainer = Seq2SeqTrainer(
        model=model,
        args=training_args,
        train_dataset=train_dataset if training_args.do_train else None,
        eval_dataset=eval_dataset if training_args.do_eval else None,
        tokenizer=tokenizer,
        data_collator=data_collator,
        compute_metrics=compute_metrics if training_args.predict_with_generate else None,
    )

我不知道在此代码中启用 Ipex。谁能帮我这个？

提前致谢！

Answer 1

要启用 Pytorch 的英特尔扩展，您只需将其添加到您的代码中，

import intel_extension_for_pytorch as ipex

上面的导入扩展了 PyTorch，优化了英特尔硬件的额外性能提升

之后，您必须在代码中添加它

model = model.to(ipex.DEVICE)