0

我一直在努力让 memcache 在我的应用程序上运行一段时间。我以为我终于让它在从不从数据库读取的地方工作了(当然,除非 memcache 数据丢失),只是因为数据存储读取的数量过多而导致我的站点关闭!我目前正在使用免费的 apppot,并希望尽可能长时间地保持这种状态。无论如何,这是我的代码,也许有人可以帮助我找到其中的漏洞。

我目前正在尝试通过覆盖 db.Model.all()、delete() 和 put() 方法来首先查询 memcache 来实现 memcache。我设置了 memcache,其中数据存储中的每个对象都有自己的 memcache 值,其 id 作为键。然后对于每个模型类,我在一个知道如何查询的键下都有一个 id 的列表。我希望我解释得足够清楚。

""" models.py """
         @classmethod
         def all(cls, order="sent"):
                 result = get_all("messages", Message)
                 if not result or memcache.get("updatemessages"):
                         result = list(super(Message, cls).all())
                         set_all("messages", result)
                         memcache.set("updatemessages", False)
                         logging.info("DB Query for messages")

                 result.sort(key=lambda x: getattr(x, order), reverse=True)
                 return result

         @classmethod
         def delete(cls, message):
                 del_from("messages", message)
                 super(Message, cls).delete(message)

         def put(self):
                 super(Message, self).put()

                 add_to_all("messages", self)



""" helpers.py """

 def get_all(type, Class):
         all = []
         ids = memcache.get(type+"allid")
         query_amount = 0
         if ids:
                 for id in ids:
                         ob = memcache.get(str(id))
                         if ob is None:
                                 ob = Class.get_by_id(int(id))
                                 if ob is None:
                                         continue
                                 memcache.set(str(id), ob)
                                 query_amount += 1
                         all.append(ob)
                 if query_amount: logging.info(str(query_amount) + " ob queries")
                 return all
         return None

 def add_to_all(type, object):
         memcache.set(str(object.key().id()), object)
         all = memcache.get(type+"allid")
         if not all:
                 all = [str(ob.key().id()) for ob in object.__class__.all()]
                 logging.info("DB query for %s" % type)
         assert all is not None, "query returned None.  Send this error code to ____: 2 3-193A"
         if not str(object.key().id()) in all:
                 all.append(str(object.key().id()))
         memcache.set(type+"allid", all)

 @log_on_fail
 def set_all(type, objects):
         assert type in ["users", "messages", "items"], "set_all was not passed a valid type.  Send this error code to ____: 33-205"
         assert not objects is None, "set_all was passed None as the list of objects.    Send this error code to _________: 33-206"
         all = []
         for ob in objects:
                 error = not memcache.set(str(ob.key().id()), ob)
                 if error:
                         logging.warning("keys not setting properly. Object must not be pickleable")
                 all.append(str(ob.key().id()))
         memcache.set(type+"allid", all)

 @log_on_fail
 def del_from(type, object):
         all = memcache.get(type+"allid")
         if not all:
                 all = object.__class__.all()
                 logging.info("DB query %s" % type)
         assert all, "Could not find any objects.  Send this error code to _____: 13-    219"
         assert str(object.key().id()) in all, "item not found in cache.  Send this error code to ________: 33-220"
         del all[ all.index(str(object.key().id())) ]
         memcache.set(type+"allid", all)
         memcache.delete(str(object.key().id()))

我为所有的混乱和缺乏优雅道歉。希望有人能够提供帮助。我曾考虑过切换到 ndb,但现在我宁愿坚持使用自定义缓存。你会注意到logging.info("some-number of ob queries"). 我经常收到此日志。也许每半小时一次或两次。memcache 真的经常丢失数据还是我的代码有问题?

4

2 回答 2

5

简单的解决方案:切换到NDB

NDB 模型会将值存储在 memcache 和实例缓存(100% 免费)中,当您更新/删除对象时,这些模型也会使缓存失效。检索将首先尝试从实例缓存中获取,然后如果失败则从 memcache 中获取,最后从数据存储中获取,它将设置任何在途中丢失的缓存中的值。

于 2012-11-01T05:19:18.867 回答
0

App Engine 内存缓存通过优化的逐出算法删除对象,因此以您描述的频率显示此日志消息会导致两种可能的解释。

要么这些数据不经常访问,要么你的内存缓存中的数据量非常大,因此有时会删除其中的一些数据。

我还建议转移到 ndb,它可以非常有效地处理 memcache 和实例缓存的使用。

希望这可以帮助!

于 2012-11-01T08:11:54.957 回答