0

我使用 Python 创建了一个 Google App Engine 应用程序。该应用程序处理大量用户名。

它有一个包含 50K 用户名的数据库。每个用户名都有一个唯一的哈希值。它也存储在数据存储中。

当任何应用用户提交任何用户名时。应用程序首先检查用户名是否存在于数据库中。

如果它是一个新的用户名，应用程序为新的用户名计算一个新的散列，并将名称和散列存储在 DataStore 中。

如果用户名已存在于数据存储中，它会从数据存储中检索旧哈希。

示例代码：

class Names(db.Model):
    name = db.StringProperty(required=True)
    hash = db.StringProperty(required=True)

username = "debasish"
user_db = db.GqlQuery("SELECT * FROM Names WHERE name=:1", username)
user = user_db.get()
if user == None:
    #doesn't exist in DB..so calculate new hash for that name and store it in DB
    e = Names(name=username,hash="badasdbashdbhasbdasbdbjasbdjbasjdbasbdbasjdbjasbd")
    e.put()
else:
    #retrieve the old hash.
    self.response.out.write('{"name":"'+user.name+'","hash":"'+user.hash+'"}')

我面临的问题是 GAE 的免费数据存储读取操作配额。它超出得太快，我的应用程序停止工作。

我也尝试过实现 memcache，就像这样，在 memcache 中添加整个数据库。但这也是一次失败，结果更加糟糕。

def get_fresh_all(self):
    all_names = db.GqlQuery("SELECT * FROM Names")
    memcache.add('full_db', all_names, 3600)
    return all_names

所以，伙计们可以请你建议，我做错了什么吗？如何更有效地进行数据存储读取操作？

感谢进阶。

4

3 回答 3

3

你可以：

  • 切换到自动缓存的 NDB
  • 查询键而不是实体SELECT __key__ FROM...
  • 减少相关索引（肯定会减少写入操作，甚至可能减少读取操作）
  • 使用用户名作为 key_name 重写所有实体并使用方法 get_or_insert()
user = Names.get_or_insert("debasish", hash="badasdbashdbhasbd")
于 2013-08-19T21:57:02.287 回答
0

@Faisal 的方法应该很好用，它为查询添加了两级缓存。

另一种选择是将用户名和哈希存储在会话中。每个会话只检查一次数据库，然后从会话变量中检索值。

于 2013-08-19T21:33:59.743 回答
0

您应该只缓存 username = hash 而不是全部。另外添加一个内存缓存（这仅适用于每个实例缓存。应该有更多帮助，只需在全局模块级别创建一个字典）。这可能会根据您的独特点击量快速增长，但您可以添加一个逻辑以仅保留某些数字。这是一个示例：

cache = {}

def get_user_hash(username):
    if username in cache:
         return cache[username]
    hash = memcache.get(username)
    if not hash:
        hash = # retrieve from db
        if not hash:
            # put to db & assign hash=new_hash

        cache[username] = hash
        memcache.set(username, hash)
    return hash
于 2013-08-19T20:50:57.660 回答