source/stringcodec/codec.h

   1 #ifndef MSP_STRINGCODEC_CODEC_H_
   2 #define MSP_STRINGCODEC_CODEC_H_
   3
   4 #include <string>
   5 #include <msp/core/except.h>
   6
   7 namespace Msp {
   8 namespace StringCodec {
   9
  10 typedef int unichar;
  11
  12 typedef std::basic_string<unichar> ustring;
  13
  14 enum ErrorMode
  15 {
  16         THROW_ON_ERROR,
  17         IGNORE_ERRORS,
  18         TRANSLITERATE
  19 };
  20
  21 /**
  22 An exception thrown for all kinds of problems encountered while encoding or
  23 decoding strings.
  24 */
  25 class CodecError: public Exception
  26 {
  27 public:
  28         CodecError(const std::string &w_): Exception(w_) { }
  29 };
  30
  31 /**
  32 Base class for string codecs.  Use one of the derived classes or the function
  33 create_codec to create a specific codec.
  34
  35 Unicode strings are represented as ustrings.  An std::string is considered to
  36 be an encoded sequence of bytes.  A codec is able to determine if an encoded
  37 string could be decoded with it.
  38 */
  39 class Codec
  40 {
  41 public:
  42         /**
  43         Base class for string encoder.
  44
  45         Each codec class should contain an Encoder class derived from this.  The
  46         encode_char and transliterate functions must be overloaded.  Some encoders
  47         may find it useful or necessary to implement some other functions too
  48         (particularly sync and reset for stateful codecs).
  49         */
  50         class Encoder
  51         {
  52         protected:
  53                 ErrorMode err_mode;
  54
  55                 Encoder(ErrorMode em): err_mode(em) { }
  56         public:
  57                 virtual ~Encoder() { }
  58
  59                 /** Encodes a single unicode character.  If the character can't be
  60                 represented in this encoding, error() should be called. */
  61                 virtual void encode_char(unichar ch, std::string &buf) = 0;
  62
  63                 /** Encodes a unicode string.  This is equivalent to calling encode_char
  64                 for each character in the string with the same buffer. */
  65                 virtual void encode(const ustring &str, std::string &buf);
  66
  67                 std::string encode(const ustring &);
  68
  69                 /** Procuces a sequence of bytes that will bring the encoder back to the
  70                 initial state. */
  71                 virtual void sync(std::string &buf) { (void)buf; }
  72
  73                 /** Resets the encoder to the initial state without producing output. */
  74                 virtual void reset() { }
  75
  76         protected:
  77                 /** Handles an error depending on the error mode.
  78
  79                 THROW_ON_ERROR: throws CodecError(msg)
  80                 IGNORE_ERRORS: does nothing
  81                 TRANSLITERATE: calls transliterate(ch, buf) */
  82                 void error(unichar ch, std::string &buf, const std::string &msg);
  83
  84                 /** Attempts to produce an alternative encoding for a unicode character.
  85                 Typically this includes dropping accent marks or romanizing letters. */
  86                 virtual void transliterate(unichar ch, std::string &buf) = 0;
  87         };
  88
  89         /**
  90         Base class for string decoder.
  91
  92         Each codec class should contain an Decoder class derived from this.
  93         */
  94         class Decoder
  95         {
  96         protected:
  97                 ErrorMode err_mode;
  98
  99                 Decoder(ErrorMode em): err_mode(em) { }
 100         public:
 101                 virtual ~Decoder() { }
 102
 103                 /** Decodes a single character from a string.  The iterator is advanced
 104                 to the next character.  For stateful codecs, -1 may be returned if a
 105                 state change sequence was decoded but no character followed it.  If
 106                 invalid input is encountered, the error() function should be called and
 107                 the iterator advanced only if it doesn't throw. */
 108                 virtual unichar decode_char(const std::string &str, std::string::const_iterator &i) = 0;
 109
 110                 /** Decodes a string. */
 111                 virtual void decode(const std::string &str, ustring &buf);
 112
 113                 ustring decode(const std::string &);
 114
 115                 /** Resets the decoder to the initial state. */
 116                 virtual void reset() { }
 117
 118         protected:
 119                 /** Handles an error depending on the error mode.  The return value is
 120                 suitable for returning from decode_char.
 121
 122                 THROW_ON_ERROR: throws CodecError(msg)
 123                 IGNORE_ERRORS: returns -1
 124                 TRANSLITERATE: return 0xFFFD */
 125                 unichar error(const std::string &msg);
 126         };
 127
 128 protected:
 129         Codec() { }
 130 public:
 131         virtual ~Codec() { }
 132
 133         /** Returns the name of the encoding handled by this codec. */
 134         virtual const char *get_name() const = 0;
 135
 136         /** Creates an encoder for this codec. */
 137         virtual Encoder *create_encoder(ErrorMode err_mode = THROW_ON_ERROR) const = 0;
 138
 139         /** Creates a decoder for this codec. */
 140         virtual Decoder *create_decoder(ErrorMode err_mode = THROW_ON_ERROR) const = 0;
 141
 142         /** Determines whether the given string can be successfully decoded with
 143         this codec.  Note that this function returning true does not guarantee that
 144         the string was actually encoded with this codec.  In particular, many 8-bit
 145         encodings are indistinguishable. */
 146         virtual bool detect(const std::string &) const;
 147 };
 148
 149 typedef Codec::Encoder Encoder;
 150 typedef Codec::Decoder Decoder;
 151
 152 /** Convenience function that decodes a string. */
 153 template<class C>
 154 ustring decode(const std::string &s)
 155 {
 156         typename C::Decoder dec;
 157         return dec.decode(s);
 158 }
 159
 160 /** Convenience function that encodes a string. */
 161 template<class C>
 162 std::string encode(const ustring &s)
 163 {
 164         typename C::Encoder enc;
 165         return enc.encode(s);
 166 }
 167
 168 /** Convenience function that transcodes a string from one codec to another. */
 169 template<class F, class T>
 170 std::string transcode(const std::string &s)
 171 {
 172         return encode<T>(decode<F>(s));
 173 }
 174
 175 /** Creates a codec for an encoding by name.  The caller is responsible for
 176 deleting the codec when it's no longer needed. */
 177 Codec *create_codec(const std::string &);
 178
 179 /** Automatically detects the encoding of a string and creates a codec for it.
 180 The codec must be deleted when it's no longer needed. */
 181 Codec *detect_codec(const std::string &);
 182
 183 } // namespace StringCodec
 184 } // namespace Msp
 185
 186 #endif