1

我的应用程序有大量数据需要在用户请求时处理。该脚本最初是在 foreach 循环中组织的，但这会导致 PHP 每次都超时。我开始使用 Redis 队列，但后来我遇到了内存问题。

mmap() failed: [12] Cannot allocate memory

和

PHP Fatal error:  Out of memory (allocated 79691776) (tried to allocate 134217728 bytes)

现在我已将队列设置为只有一个进程。它工作得更好，但过了一段时间我又开始出现内存错误。这只是我测试它。一旦用户开始使用它，它就会翻倒。

我分配了 1024MB 的脚本，因为如果我不单独使用它就会耗尽内存。我想知道每次运行脚本以释放内存后是否可以做些什么。像取消设置变量一样？不过，我看不出这有什么帮助，因为脚本结束并由队列工作人员从头开始再次运行。

我正在使用带有 2GB RAM 的流浪机器（Homestead）

更新：

回测从我们执行调度程序开始，历经 10 个联赛和 10 年。

调度员类：

class Dispatcher
{
    use Attributes;
    use DataRetriever;
    public function runBacktest($token)
    {
        $authUserId = Auth::user()->id;
        $system = System::where('token', $token)->first();
        $this->getSystem( $authUserId, $system->id);
        foreach ($this->leagues as $league) {
            foreach ($this->years as $year) {
                BacktestJob::dispatch($authUserId, $system->id, $token, $league, $year);
            }
        }
    }
}

调度程序执行作业：

class BacktestJob implements ShouldQueue
{
    use Dispatchable, InteractsWithQueue, Queueable, SerializesModels;

    private $token;
    private $league;
    private $year;
    private $authUserId;
    private $systemId;

    public $timeout = 10000;


    /**
     * Create a new job instance.
     *
     * @return void
     */
    public function __construct($authUserId, $systemId, $token, $league, $year)
    {
        $this->token = $token;
        $this->league = $league;
        $this->year = $year;
        $this->authUserId = $authUserId;
        $this->systemId = $systemId;
    }

    /**
     * Execute the job.
     *
     * @return void
     */
    public function handle()
    {
        $backtest = new Backtest;
        $backtest->init($this->authUserId, $this->systemId, $this->token, $this->league, $this->year);
    }
}

下面是主脚本的精简版，因为它做了很多事情：

public function init($authUserId, $systemId, $token, $league, $year)
    {
//      ini_set('memory_limit', -1);
        ini_set('max_execution_time', 300); //300 seconds = 5 minutes
        ini_set('memory_limit', '1024M'); // or you could use 1G
        $this->authUserId = $authUserId;
        $this->systemId = $systemId;
        $this->token = $token;
include(storage_path("app/matches/{$league->key}/{$year}.php"));
        $this->leagueResults[$league->key][$year] = collect($this->leagueResults[$league->key][$year]);
//Loops through the data - saves to new array
fwrite($file, serialize($backtest));

最初数据是从一个 50MB 的 json 文件中提取的。我用硬编码的 PHP 数组（文件大小 100MB）替换了 json 文件。我知道较新的文件更大，但我认为虽然 json_decode 不会加快速度。

我还在脚本末尾删除了一个 db insert，但我更希望它留在里面，因为它会让我的生活更轻松。

4

1 回答 1

0

好的，所以我通过分解数据文件解决了这个问题。因为我可以完全访问原始数据文件，而且我不需要每个请求都包含其中的所有数据，所以我将它分成大约 50 个较小的文件。

我对性能的提高感到惊讶。从 30 多秒加上超时，它下降到不到 2 秒。大多数请求在不到一秒的时间内完成。

于 2017-10-25T19:49:09.133 回答